Šéf OpenAI Sam Altman se v rozhovoru pro web Politico vymezil vůči opatrnějšímu přístupu konkurenční Anthropic k regulaci umělé inteligence. Připustil, že AI přinese i zneužití, podvody nebo hackerské útoky, podle něj ale její přínosy převáží a technologie by měla zůstat široce dostupná veřejnosti.
Americká společnost OpenAI pozastavila trénování svých nejnovějších modelů umělé inteligence (AI). Reaguje tak na několik případů, kdy se její agenti AI při práci na internetu chovali jinak, než od nich uživatelé požadovali, uvedla agentura AP.
Agent umělé inteligence od OpenAI v červnu neoprávněně pronikl na australský vládní portál se zdravotními statistikami a dostal se k veřejným i neveřejným souborům. Podle premiéra Anthonyho Albaneseho nic nenasvědčuje tomu, že by získal přístup k osobním údajům pacientů, incident ale vláda označuje za nepřijatelný. Pravděpodobně jde o první známý případ, kdy AI agent pronikl na vládní web.
Umělá inteligence Googlu měla při bezpečnostním testu vyhledávat informace. Místo toho uhodla heslo skutečné firmy a pronikla do jejího systému. Gemini se během květnového testování dostal celkem do systémů tří společností, informovala agentura Bloomberg. Incidenty znovu otevřely debatu o tom, jak zajistit, aby autonomní AI agenti nepřekračovali hranice svých úkolů.
Zatajování informací, pokusy obcházet omezení či vymyšlená data. OpenAI zveřejnila dosud nepopsané případy, kdy se její modely chovaly jinak, než jejich tvůrci zamýšleli. Firma proto zavádí nový systém pro sledování podobných incidentů, a to v době, kdy i technologické špičky stále hlasitěji varují před rostoucími a obtížně předvídatelnými riziky umělé inteligence.
Donald Trump odmítá brzdit vývoj umělé inteligence a obavy z jejího vymknutí kontrole zlehčuje. Jenže odpor proti jeho přístupu sílí už i mezi republikány a AI se před listopadovými volbami rychle mění v citlivé politické téma.
Rusko letos na jaře podle západních představitelů nacvičovalo v Arktidě nasazení tajné technologie schopné vyřadit kritické podmořské kabely bez zanechání stop. Operaci u Špicberků sledovaly Británie, Norsko a Spojené státy a ruským plavidlům zabránily cvičení dokončit. Západní zpravodajci se mezitím stále více obávají, že Moskva může v Evropě stupňovat sabotáže a jednou otestovat i soudržnost NATO.
Model Claude od Anthropicu se při bezpečnostním testování znovu dostal do externích systémů, aniž by to firma zachytila při původní kontrole více než 141 tisíc relací. Incident z ledna odhalila až v srpnu a nyní jej nechává prověřit externí výzkumnou firmou. Případ znovu otevírá otázku, jak bezpeční jsou autonomní AI agenti při práci s reálnými systémy.
Organizovaný zločin v České republice prošel za poslední dekády radikální proměnou. Tradiční formy násilné kriminality vystřídal vysoce sofistikovaný a profesionalizovaný zločin, především v ekonomické oblasti. Uvedl to ředitel Národní centrály proti organizovanému zločinu (NCOZ) Jiří Mazánek. Za významný problém v Česku označil vykořisťování pracovní síly.
Firmy čeká další zpřísňování kybernetické bezpečnosti. Kvůli levným AI nástrojům totiž mohou vznikat virtuální klony vrcholných manažerů, které mohou podvodníci zneužít pro narušení bezpečnostní hráze podniku a způsobit obří škody.
Umělá inteligence mění kybernetické útoky v rychlejší a nebezpečnější hru. Podle experta Freda Streeflanda už útočníci díky AI snadněji hledají slabiny, vyrábějí škodlivý software i připravují phishing nebo deepfake obsah. Firmy přitom často riskují samy, když nové nástroje zavádějí rychleji než jejich zabezpečení.
Tlak na dodávky ropy a rafinovaných paliv ⛽ se bude v nejbližší době nadále zvyšovat. Podle agentury Reuters to prohlásil generální ředitel ropné firmy Saudi Aramco Amín Násir. Doplnění globálních zásob vyčerpaných v důsledku krize způsobené izraelsko-americkým útokem na Írán podle něj může trvat až dva roky.
