Další přešlap AI. Gemini měl hledat informace, místo toho pronikl do systémů tří firem
Umělá inteligence Googlu měla při bezpečnostním testu vyhledávat informace. Místo toho uhodla heslo skutečné firmy a pronikla do jejího systému. Gemini se během květnového testování dostal celkem do systémů tří společností, informovala agentura Bloomberg. Incidenty znovu otevřely debatu o tom, jak zajistit, aby autonomní AI agenti nepřekračovali hranice svých úkolů.
Model umělé inteligence Gemini od Googlu se během květnového testování kybernetické bezpečnosti neúmyslně dostal do systémů tří společností. V jednom případě uhodl heslo, v dalších dvou použil přihlašovací údaje nalezené na internetu. O incidentech informovala agentura Bloomberg. Jde o další případy průniků způsobených AI agenty, které vyvolávají obavy bezpečnostních expertů i samotných vývojářů technologie.
Incidenty odhalila společnost Irregular, která se zaměřuje na bezpečnost umělé inteligence. Při stejném testování zaznamenala také průniky, o nichž už dříve informovaly společnosti OpenAI, Anthropic a Meta. Irregular v pátek potvrdila, že všechny případy souvisely se stejným problémem. Příslušné vývojáře o nich vyrozuměla koncem července.
Americkým demokratům se nelíbí, jak rodina Trumpů během druhého volebního období bohatne – na úkor obyčejných Američanů. Mezitím se miliardáři srocují za prezidentem před volbami do Kongresu. Platí, že kdo má peníze, tak vyhraje?
Trumpovi jsou rodina kriminálníků, budou se zodpovídat. Elon taky, hrozí politik
Enjoy
Fiktivní firma, skutečné heslo
K jednomu z průniků došlo při zdánlivě běžném úkolu. Gemini měl vyhledat informace o fiktivní společnosti, která se shodou okolností jmenovala stejně jako skutečná firma. Model se pokusil získat přístup k její reálné službě, uhodl heslo a uspěl.
Google případ potvrdil poté, co o něm informoval deník The Wall Street Journal. Mluvčí společnosti uvedl, že Google vyrozuměl příslušné úřady.
Při zbývajících dvou incidentech model vyhledával na internetu název společnosti. Dostal se přitom do veřejně přístupných internetových úložišť, v nichž našel přihlašovací údaje jiných firem. Ty následně použil k přístupu do dalších systémů, popsala viceprezidentka Googlu pro bezpečnostní inženýrství Heather Adkinsová. „Ve všech třech případech se model zastavil,“ uvedla. Google podle Adkinsové zajistil, aby byly všechny tři dotčené subjekty o incidentech informovány.
Mluvčí společnosti Irregular Josef Laor uvedl, že firma přijala okamžitá opatření a všechny známé problémy na její straně byly vyřešeny již před několika týdny.
Zatajování informací, pokusy obcházet omezení či vymyšlená data. OpenAI zveřejnila dosud nepopsané případy, kdy se její modely chovaly jinak, než jejich tvůrci zamýšleli. Firma proto zavádí nový systém pro sledování podobných incidentů, a to v době, kdy i technologické špičky stále hlasitěji varují před rostoucími a obtížně předvídatelnými riziky umělé inteligence.
AI se vymkla kontrole. OpenAI přiznala další znepokojivé případy
Zprávy z firem
Průniky rozdmýchaly spor o bezpečnost AI
Případy ukazují na rizika systémů umělé inteligence, které dokážou samostatně vykonávat úkoly a využívat přitom dostupné nástroje či přístupové údaje. „Tyto průniky zdůrazňují, jak důležité je učit výkonné modely umělé inteligence odpovědnému jednání,“ uvedla Adkinsová.
Série podobných incidentů podle Bloombergu rozpoutala celosvětovou debatu o tom, zda vývoj AI zpomalit a jaká bezpečnostní opatření zavést. Generální ředitel Anthropicu Dario Amodei vyzval k celoodvětvovému zpomalení vývoje technologie. Jeho návrh podpořili také šéf OpenAI Sam Altman, Elon Musk a další.
Proti nové regulaci se naopak vyslovili mimo jiné americký prezident Donald Trump, generální ředitel Nvidie Jensen Huang a šéf Mety Mark Zuckerberg. Argumentují například tím, že firmy by měly být schopny regulovat samy sebe. Některé začínající společnosti zaměřené na AI zároveň varují, že přísnější pravidla mohou menším hráčům ztížit konkurenci s velkými technologickými firmami.
VYŠEL LETNÍ NEWSTREAM CLUB
Sázky na růst Česka se vyplácejí. Potvrzují to lidé různých oborů a zájmů, s nimiž se můžete potkat při čtení aktuálního vydání magazínu Newstream CLUB. Česko má totiž obří potenciál, který se daří čím dál více využívat. Platí to pro investory, globální i lokální firmy, ale také pro tuzemský realitní trh. Jak se na vlně zájmu svézt, poradí letní vydání magazínu.
Na obálce magazínu jsou sourozenci se Sara a Teo Sandevovi, kteří patří ke generaci, která už nemusí volit mezi původem a zemí, kde vyrostla. Ona jde hereckou cestou, on spojuje fotbal, studium a rodinný byznys. Oba ale dobře vědí, že jejich největší výhodou je právě mix českého zázemí a balkánských kořenů.
Aktuální vydání se věnuje právě sázkám na Česko z mnoha pohledů: z pohledu investorů drobných i institucionálních, ale i z pohledu lidí, kteří se snaží zemi posunout dál. K nim patří například Petr Dvořák, který shání soukromé prostředky na spolufinancování stavby nové pražské filharmonie, nebo investor Marek Dospiva.
Česko se také stává čím dál větším lákadlem pro zahraniční firmy, které zde mají vývojová centra. Důvodů je celá řada, ale klíčové jsou pro globální firmy tři věci: vhodná geografická poloha, bezpečnost, a hlavně silné technické zázemí, díky kterému tu mohou pracovat na nejpokročilejších inovacích.
To potvrzuje například šéf globální technologické společnosti Everpure Charlie Giancarlo, který působil v největších firmách světa, stál u zrodu internetu a nyní se věnuje datovým úložištím. Rozhovor s ním také přináší letní vydání magazínu Newstream CLUB.
A rostoucí zájem nadnárodních firem o možnost působit v Česku potvrzuje také Tomáš Partsch z CTP, který vysvětluje, jak se z Brna stává evropské Silicon Valley.
Dvanácté vydání čtvrtletníku Newstream CLUB je v prodeji, distribuci zajišťuje Send. Digitální verzi magazínu lze zakoupit přímo na newstream.cz.
