Banky neustále zdokonalují systémy své kyberbezpečnosti. Jenže útočníci mají jednu výhodu. Tou je lidský faktor a jeho ovlivnitelnost, respektive manipulovatelnost. Postačí dotknout se správné emoce ve správnou chvíli a člověk pak dělá chyby, které by normálně nedělal.
Šéf OpenAI Sam Altman se v rozhovoru pro web Politico vymezil vůči opatrnějšímu přístupu konkurenční Anthropic k regulaci umělé inteligence. Připustil, že AI přinese i zneužití, podvody nebo hackerské útoky, podle něj ale její přínosy převáží a technologie by měla zůstat široce dostupná veřejnosti.
Data jsou nová ropa a umělá inteligence změní svět víc než železnice, elektřina a kolo dohromady. Alespoň s takovými očekáváními pracují AI firmy, jejich zakladatelé, investoři, politici a v podstatě již skoro každý, kdo o vývoji světa alespoň občas přemýšlí. AI firmy se tak skutečně již chovají jako ropní giganti, alespoň v tom, že ve snaze utéct ostatním ignorují následky. A když dojde k průšvihu, pokrčí rameny a řeknou: Sorry. A to je docela problém.
Donald Trump uzavřel s předními hráči světa umělé inteligence dobrovolnou dohodu, která má přinést přísnější kontroly rychle se rozvíjejících AI systémů. Prezident přitom odmítá brzdit technologický vývoj a věří především v samoregulaci firem. Dohoda přichází právě ve chvíli, kdy část samotného odvětví stále hlasitěji varuje, že se pokročilé modely mohou vymknout kontrole.
Kde je hranice mezi informováním a snahou ovlivnit druhého? Co se mění s AI, personalizací a možností generovat obsah v obrovském měřítku? A jaké nástroje má obyčejný člověk ve sporu s organizovanými strukturami, které mu mnohdy chtějí uškodit? Moderátorka Sara Polak si do epizody podcastové série Sedm hříchů dobré společnosti věnované zneužívání informací a mocenské manipulaci pozvala lékaře Tomáše Šebka a odborníka na kybernetickou bezpečnost Milana Půlkrábka alias Sodomáka. Podcast najdete na portálu YouTube a newstream.cz.
AI agenti se stále častěji dostávají mimo prostředí, ve kterém mají být bezpečně testováni. Nvidia proto přichází s novým systémem, který má jejich pohyb v reálném čase hlídat, omezovat přístup k citlivým částem systému a podezřelé agenty během milisekund izolovat. Firma tvrdí, že podobná technologie mohla zabránit i nedávnému incidentu kolem Hugging Face.
Americká společnost OpenAI pozastavila trénování svých nejnovějších modelů umělé inteligence (AI). Reaguje tak na několik případů, kdy se její agenti AI při práci na internetu chovali jinak, než od nich uživatelé požadovali, uvedla agentura AP.
Agent umělé inteligence od OpenAI v červnu neoprávněně pronikl na australský vládní portál se zdravotními statistikami a dostal se k veřejným i neveřejným souborům. Podle premiéra Anthonyho Albaneseho nic nenasvědčuje tomu, že by získal přístup k osobním údajům pacientů, incident ale vláda označuje za nepřijatelný. Pravděpodobně jde o první známý případ, kdy AI agent pronikl na vládní web.
Umělá inteligence Googlu měla při bezpečnostním testu vyhledávat informace. Místo toho uhodla heslo skutečné firmy a pronikla do jejího systému. Gemini se během květnového testování dostal celkem do systémů tří společností, informovala agentura Bloomberg. Incidenty znovu otevřely debatu o tom, jak zajistit, aby autonomní AI agenti nepřekračovali hranice svých úkolů.
Zatajování informací, pokusy obcházet omezení či vymyšlená data. OpenAI zveřejnila dosud nepopsané případy, kdy se její modely chovaly jinak, než jejich tvůrci zamýšleli. Firma proto zavádí nový systém pro sledování podobných incidentů, a to v době, kdy i technologické špičky stále hlasitěji varují před rostoucími a obtížně předvídatelnými riziky umělé inteligence.
Donald Trump odmítá brzdit vývoj umělé inteligence a obavy z jejího vymknutí kontrole zlehčuje. Jenže odpor proti jeho přístupu sílí už i mezi republikány a AI se před listopadovými volbami rychle mění v citlivé politické téma.
