Další přešlap AI. Gemini měl hledat informace, místo toho pronikl do systémů tří firem
Umělá inteligence Googlu měla při bezpečnostním testu vyhledávat informace. Místo toho uhodla heslo skutečné firmy a pronikla do jejího systému. Gemini se během květnového testování dostal celkem do systémů tří společností, informovala agentura Bloomberg. Incidenty znovu otevřely debatu o tom, jak zajistit, aby autonomní AI agenti nepřekračovali hranice svých úkolů.
Model umělé inteligence Gemini od Googlu se během květnového testování kybernetické bezpečnosti neúmyslně dostal do systémů tří společností. V jednom případě uhodl heslo, v dalších dvou použil přihlašovací údaje nalezené na internetu. O incidentech informovala agentura Bloomberg. Jde o další případy průniků způsobených AI agenty, které vyvolávají obavy bezpečnostních expertů i samotných vývojářů technologie.
Incidenty odhalila společnost Irregular, která se zaměřuje na bezpečnost umělé inteligence. Při stejném testování zaznamenala také průniky, o nichž už dříve informovaly společnosti OpenAI, Anthropic a Meta. Irregular v pátek potvrdila, že všechny případy souvisely se stejným problémem. Příslušné vývojáře o nich vyrozuměla koncem července.
Americkým demokratům se nelíbí, jak rodina Trumpů během druhého volebního období bohatne – na úkor obyčejných Američanů. Mezitím se miliardáři srocují za prezidentem před volbami do Kongresu. Platí, že kdo má peníze, tak vyhraje?
Trumpovi jsou rodina kriminálníků, budou se zodpovídat. Elon taky, hrozí politik
Enjoy
Fiktivní firma, skutečné heslo
K jednomu z průniků došlo při zdánlivě běžném úkolu. Gemini měl vyhledat informace o fiktivní společnosti, která se shodou okolností jmenovala stejně jako skutečná firma. Model se pokusil získat přístup k její reálné službě, uhodl heslo a uspěl.
Google případ potvrdil poté, co o něm informoval deník The Wall Street Journal. Mluvčí společnosti uvedl, že Google vyrozuměl příslušné úřady.
Při zbývajících dvou incidentech model vyhledával na internetu název společnosti. Dostal se přitom do veřejně přístupných internetových úložišť, v nichž našel přihlašovací údaje jiných firem. Ty následně použil k přístupu do dalších systémů, popsala viceprezidentka Googlu pro bezpečnostní inženýrství Heather Adkinsová. „Ve všech třech případech se model zastavil,“ uvedla. Google podle Adkinsové zajistil, aby byly všechny tři dotčené subjekty o incidentech informovány.
Mluvčí společnosti Irregular Josef Laor uvedl, že firma přijala okamžitá opatření a všechny známé problémy na její straně byly vyřešeny již před několika týdny.
Zatajování informací, pokusy obcházet omezení či vymyšlená data. OpenAI zveřejnila dosud nepopsané případy, kdy se její modely chovaly jinak, než jejich tvůrci zamýšleli. Firma proto zavádí nový systém pro sledování podobných incidentů, a to v době, kdy i technologické špičky stále hlasitěji varují před rostoucími a obtížně předvídatelnými riziky umělé inteligence.
AI se vymkla kontrole. OpenAI přiznala další znepokojivé případy
Zprávy z firem
Průniky rozdmýchaly spor o bezpečnost AI
Případy ukazují na rizika systémů umělé inteligence, které dokážou samostatně vykonávat úkoly a využívat přitom dostupné nástroje či přístupové údaje. „Tyto průniky zdůrazňují, jak důležité je učit výkonné modely umělé inteligence odpovědnému jednání,“ uvedla Adkinsová.
Série podobných incidentů podle Bloombergu rozpoutala celosvětovou debatu o tom, zda vývoj AI zpomalit a jaká bezpečnostní opatření zavést. Generální ředitel Anthropicu Dario Amodei vyzval k celoodvětvovému zpomalení vývoje technologie. Jeho návrh podpořili také šéf OpenAI Sam Altman, Elon Musk a další.
Proti nové regulaci se naopak vyslovili mimo jiné americký prezident Donald Trump, generální ředitel Nvidie Jensen Huang a šéf Mety Mark Zuckerberg. Argumentují například tím, že firmy by měly být schopny regulovat samy sebe. Některé začínající společnosti zaměřené na AI zároveň varují, že přísnější pravidla mohou menším hráčům ztížit konkurenci s velkými technologickými firmami.
VYŠEL PODZIMNÍ NEWSTREAM CLUB
Lepší život jako téma čísla
Změna k lepšímu je jedním z témat aktuálního vydání magazínu Newstream CLUB. Šířeji pak je tématem longevity, nebo obecněji lepší život. A to nejen každého konkrétního člověka, ale také společnosti nebo firem.
Na obálce magazínu je hvězdný šéfkuchař Radek Kašpárek. Radek Kašpárek je nový člověk, alespoň to říká v titulním rozhovoru. „Byl jsem prudší, výbušnější, taková neřízená střela. Celkově jsem se časem zklidnil, dostal se do větší pohody a tím se ve mně uklidnilo i ego,“ říká.
V novém magazínu tak čtenáři najdou například rozhovor s Pavlem Loudou. Jeho jméno patří k synonymům tuzemského vozoparku, protože je jedním z nejúspěšnějších prodejců aut u nás. Ale zároveň koupil také sklárny, v nichž pracovali jeho rodiče, investoval do nich stamiliony a dnes již může zhodnotit, jak se tato investice vyplatila.
Na rady rodičů vzpomíná také Barbara Paldus, dcera českých emigrantů, která se narodila v Kanadě, uspěla v Silicon Valley a dnes vyrábí kosmetiku, jež vychází z přírodních tradic, ale je podpořená high-endovou vědou. „Na magii sice nevěřím, ale umím věřit věcem, které zatím neumíme vysvětlit,“ říká vědkyně.
A o to, jak razantně změnit život po šedesátce, se podělí Hana Janata, lékařka, která v 55 začala profesionálně tančit a po šedesátce se stala modelkou. A spolupracuje s nejprestižnějšími značkami světa.
Třinácté vydání čtvrtletníku Newstream CLUB je v prodeji, distribuci zajišťuje Send. Digitální verzi magazínu lze zakoupit přímo na newstream.cz.
