AI unikla kontrole. Claude pronikl do externích systémů a Anthropic na to přišel až po měsících
Model Claude od Anthropicu se při bezpečnostním testování znovu dostal do externích systémů, aniž by to firma zachytila při původní kontrole více než 141 tisíc relací. Incident z ledna odhalila až v srpnu a nyní jej nechává prověřit externí výzkumnou firmou. Případ znovu otevírá otázku, jak bezpeční jsou autonomní AI agenti při práci s reálnými systémy.
Americká společnost Anthropic zveřejnila další případ, kdy se její model umělé inteligence při testování naboural do externích systémů. Incident se stal v lednu a týkal se rané verze modelu Claude Opus 4.6. Firma jej však odhalila až v srpnu, i když předtím provedla rozsáhlou kontrolu, uvedla agentura Reuters.
Anthropic podle svého vyjádření informoval všechny dotčené strany, další podrobnosti nezveřejnil.
The Boring Company založil Elon Musk na budování podzemních tunelů a další infrastruktury pro jeho vizi nového dopravního prostředku Hyperloop. Společnost nyní získala tři miliardy dolarů na nový projekt ve Spojených arabských emirátech, kde postaví 150 kilometrů tunelů pro Dubai Loop.
Pozapomenutá firma Elona Muska dostala miliardy dolarů na rozvoj
Zprávy z firem
Čtvrtý bezpečnostní incident
Při původní kontrole 141 006 testovacích relací společnost část přehlédla. Jejich pozdější nalezení vedlo k odhalení čtvrtého bezpečnostního incidentu. Podle předběžného posouzení nebyl nový případ závažnější než tři předchozí, které firma podrobně zkoumala.
Jedním z problémů bylo podle firmy zkreslené uvažování, při němž model Claude přehlédl či nesprávně vyhodnotil důkazy, že pracuje na živém internetu. Jako druhý opakující se problém Anthropic identifikoval ochotu modelů podniknout potenciálně škodlivé kroky při plnění úkolu. Společnost pověřila prošetřením incidentu externí výzkumnou firmu METR.
Boom umělé inteligence žene TSMC dál prudce vzhůru. Srpnové tržby tchajwanského výrobce čipů vyskočily meziročně o 53,3 procenta na zhruba 340 miliard korun. Firma přesto nestíhá uspokojovat poptávku, současně staví a vybavuje přibližně 20 továren a letos chce do rozšiřování výroby investovat přes bilion korun.
Čipový gigant pod tlakem AI boomu. TSMC staví 20 továren a pořád nemá dost kapacity
Zprávy z firem
Firma v červenci oznámila, že některé její modely při kyberbezpečnostních testech pronikly do systémů tří společností. Příčinou hackerských útoků byla chyba, jež modelům nechtěně umožnila přístup k otevřenému internetu.
Incidenty přispěly k rostoucím obavám z rizik autonomních agentů AI, kteří mohou obcházet pravidla a využívat nečekané způsoby interakce s externími systémy.
VYŠEL LETNÍ NEWSTREAM CLUB
Sázky na růst Česka se vyplácejí. Potvrzují to lidé různých oborů a zájmů, s nimiž se můžete potkat při čtení aktuálního vydání magazínu Newstream CLUB. Česko má totiž obří potenciál, který se daří čím dál více využívat. Platí to pro investory, globální i lokální firmy, ale také pro tuzemský realitní trh. Jak se na vlně zájmu svézt, poradí letní vydání magazínu.
Na obálce magazínu jsou sourozenci se Sara a Teo Sandevovi, kteří patří ke generaci, která už nemusí volit mezi původem a zemí, kde vyrostla. Ona jde hereckou cestou, on spojuje fotbal, studium a rodinný byznys. Oba ale dobře vědí, že jejich největší výhodou je právě mix českého zázemí a balkánských kořenů.
Aktuální vydání se věnuje právě sázkám na Česko z mnoha pohledů: z pohledu investorů drobných i institucionálních, ale i z pohledu lidí, kteří se snaží zemi posunout dál. K nim patří například Petr Dvořák, který shání soukromé prostředky na spolufinancování stavby nové pražské filharmonie, nebo investor Marek Dospiva.
Česko se také stává čím dál větším lákadlem pro zahraniční firmy, které zde mají vývojová centra. Důvodů je celá řada, ale klíčové jsou pro globální firmy tři věci: vhodná geografická poloha, bezpečnost, a hlavně silné technické zázemí, díky kterému tu mohou pracovat na nejpokročilejších inovacích.
To potvrzuje například šéf globální technologické společnosti Everpure Charlie Giancarlo, který působil v největších firmách světa, stál u zrodu internetu a nyní se věnuje datovým úložištím. Rozhovor s ním také přináší letní vydání magazínu Newstream CLUB.
A rostoucí zájem nadnárodních firem o možnost působit v Česku potvrzuje také Tomáš Partsch z CTP, který vysvětluje, jak se z Brna stává evropské Silicon Valley.
Dvanácté vydání čtvrtletníku Newstream CLUB je v prodeji, distribuci zajišťuje Send. Digitální verzi magazínu lze zakoupit přímo na newstream.cz.
