První známý útok svého druhu? AI agent pronikl na vládní zdravotnický portál
Agent umělé inteligence od OpenAI v červnu neoprávněně pronikl na australský vládní portál se zdravotními statistikami a dostal se k veřejným i neveřejným souborům. Podle premiéra Anthonyho Albaneseho nic nenasvědčuje tomu, že by získal přístup k osobním údajům pacientů, incident ale vláda označuje za nepřijatelný. Pravděpodobně jde o první známý případ, kdy AI agent pronikl na vládní web.
Agent umělé inteligence vyvinutý americkou společností OpenAI v červnu neoprávněně pronikl na australský vládní portál se zdravotními údaji a získal přístup k veřejným i neveřejným souborům. Incident oznámil australský premiér Anthony Albanese a podle agentury Reuters může jít o první známý případ, kdy AI agent pronikl na vládní webovou stránku. Zároveň jde podle Reuters o jeden z nejvýznamnějších dosud známých incidentů, při nichž se agent umělé inteligence dostal do externích systémů mimo Spojené státy.
Agent se dostal na portál lékařských statistik vládní agentury Medicare, která spravuje necitlivá zdravotní data a statistiky včetně údajů o veřejných výdajích na zdravotnictví. Podle Albaneseho se ale nezdá, že by došlo k neoprávněnému přístupu k osobním údajům pacientů nebo k širšímu narušení sítě. Australská vláda přesto bere incident velmi vážně. „Tato situace je nicméně samozřejmě nepřijatelná a vyjadřujeme nad ní mimořádné znepokojení přímo generálnímu řediteli OpenAI Samu Altmanovi,“ uvedl premiér na tiskové konferenci v New Yorku, kde se účastní zasedání Valného shromáždění OSN.
Nezruší permanentku. Nezmění banku. Neprojde pojistky ani předplatná, i když na nich prodělává. Právě takový zákazník byl pro řadu firem zlatý důl – jenže nový AI agent Muse od Mety může lidskou pohodlnost obejít a začít jednat za něj. Wall Street už začala přeceňovat fitka, finanční firmy i média. V Evropě může podobnou revoluci brzdit regulace.
Lukáš Kovanda: Líný zákazník byl zlatý důl. Nová AI Mety tenhle byznys ohrožuje
Názory
Incidentů přibývá
OpenAI připustila, že její modely při hledání odpovědí provedly akce, které firma nezamýšlela. Podle jejího vyjádření zaznamenala aktivitu týkající se několika webových stránek a služeb australské vlády. Firma zároveň uvedla, že její vyšetřování nenašlo důkazy o přístupu k záznamům pacientů. Agent se podle OpenAI dostal k souhrnným zdravotním statistikám a názvům interních souborů.
Incident se odehrál už v červnu, australská vláda se o něm ale dozvěděla teprve před několika týdny. Nejde přitom o jediný případ, kdy OpenAI informovala o neoprávněném chování svých agentů až s odstupem. V některých případech problém sama odhalila pozdě, v jiných se podle uvedeného textu rozhodla informace nejprve nezveřejnit.
Další významný případ přišel v polovině července, kdy došlo k vniknutí do open-source úložiště AI Hugging Face. Podle časových os zveřejněných OpenAI a nezávislými vyšetřovateli byl incident odhalen až zhruba po týdnu. Přispěl tak k další debatě o rizicích stále výkonnějších modelů umělé inteligence. Případy, kdy AI agenti přistupovali k externím systémům, zveřejnili také konkurenti Anthropic, Google se svým Gemini a Meta.
Australský incident přichází navíc krátce poté, co OpenAI a Anthropic vyzvaly Austrálii, aby přehodnotila zákaz, který jim brání využívat tamní kreativní obsah k trénování jejich modelů.
Rizika spojená s autonomnějšími AI systémy přitom zmiňují i samotní představitelé technologického sektoru. Někteří přední američtí manažeři v oblasti umělé inteligence, včetně Sama Altmana, vyzvali ke zpomalení vývoje této technologie a upozorňovali mimo jiné na nebezpečí ničivých kybernetických útoků ze strany agentů, kteří by se mohli vymknout kontrole.
VYŠEL PODZIMNÍ NEWSTREAM CLUB
Lepší život jako téma čísla
Změna k lepšímu je jedním z témat aktuálního vydání magazínu Newstream CLUB. Šířeji pak je tématem longevity, nebo obecněji lepší život. A to nejen každého konkrétního člověka, ale také společnosti nebo firem.
Na obálce magazínu je hvězdný šéfkuchař Radek Kašpárek. Radek Kašpárek je nový člověk, alespoň to říká v titulním rozhovoru. „Byl jsem prudší, výbušnější, taková neřízená střela. Celkově jsem se časem zklidnil, dostal se do větší pohody a tím se ve mně uklidnilo i ego,“ říká.
V novém magazínu tak čtenáři najdou například rozhovor s Pavlem Loudou. Jeho jméno patří k synonymům tuzemského vozoparku, protože je jedním z nejúspěšnějších prodejců aut u nás. Ale zároveň koupil také sklárny, v nichž pracovali jeho rodiče, investoval do nich stamiliony a dnes již může zhodnotit, jak se tato investice vyplatila.
Na rady rodičů vzpomíná také Barbara Paldus, dcera českých emigrantů, která se narodila v Kanadě, uspěla v Silicon Valley a dnes vyrábí kosmetiku, jež vychází z přírodních tradic, ale je podpořená high-endovou vědou. „Na magii sice nevěřím, ale umím věřit věcem, které zatím neumíme vysvětlit,“ říká vědkyně.
A o to, jak razantně změnit život po šedesátce, se podělí Hana Janata, lékařka, která v 55 začala profesionálně tančit a po šedesátce se stala modelkou. A spolupracuje s nejprestižnějšími značkami světa.
Třinácté vydání čtvrtletníku Newstream CLUB je v prodeji, distribuci zajišťuje Send. Digitální verzi magazínu lze zakoupit přímo na newstream.cz.
