Stanislav Šulc: Svět vyděsil nový model AI od Anthropicu. Zdá se, že oprávněně
Co dokáže nový model Mythos od Anthropicu? Nejspíš hodně, když se kvůli němu schází americký ministr financí se šéfy bank a kyberbezpečnostní firmy na celém světě panikaří.
Za zhruba tři a půl roku, během nichž svět aktivně sleduje vývoj modelů umělé inteligence, se toho stalo poměrně hodně. Přesto nyní nastává poměrně bezprecedentní situace. Vedení Anthropicu, která vyvíjí nástroj Claude, odmítlo uvést nejnovější model své AI na trh s tím, že je příliš dokonalý a v důsledku potenciálně nebezpečný. Mohl by to být dokonalý marketingový tah, ale zdá se, že není.
Anthropic totiž oslovil klíčové technologické společnosti s tím, že jim jednak ukázal možnosti tohoto modelu, který má podtitul Mythos, zároveň jim věnoval tokeny v hodnotě 100 milionů dolarů. Cílem přitom má být, že firmy jako Apple, Microsoft, Amazon, Google a další využijí tyto kredity na opravu internetové infrastruktury a vůbec na služby, na nichž v současnosti v podstatě jede svět.
Že je situace vážná pak potvrdila i svolaná schůzka amerického ministra financí Scotta Bessenta a šéfa americké centrální banky Fed Jeroma Powella s šéfy klíčových amerických bank.
Každý může zaútočit na každého
Je situace opravdu tak vážná? Nejspíš ano. Podle lidí, kteří měli možnost s modelem pracovat, totiž Mythos dokáže to, co doposud nedokázal žádný jiný systém: projít jakýkoli systém se sebedokonalejším zabezpečením, najít v něm chybu, tu využít a daný systém shodit. A co je možná ještě horší: Mythos se sám dokáže při podobném útoku měnit, aby byl ještě účinnější.
Potenciál pro zneužití je v podstatě nekonečný, z reakce těch, kteří jsou situaci nejblíž, se pak zdá, že obrana je prakticky nemožná.
Co by to znamenalo? Že každý člověk by pomocí tohoto nástroje dokázal zaútočit na libovolnou digitální infrastrukturu a tu když ne zničit, tak ochromit. Důsledky podobných možností jsou skutečně nedozírné, stačí připomenout kolaps řady systémů v červenci roku 2024, kdy kvůli chybě v aktualizaci bezpečnostního systému CrowdStrike spadly systémy po celém světě.
Pro sto padesát tisíc mladých lidí přišly nejkrušnější okamžiky roku. Začaly přijímací zkoušky na střední školy. A přestože se podle statistického úřadu dostává na čtyřletá gymnázia 60 až 72 procent uchazečů, realita je mnohem dramatičtější.
Dalibor Martínek: Přijímačky na střední jsou brutální síto. Děti bohatých mají větší šanci
Názory
Vítězové a poražení
Netušené možnosti nového modelu výzkumníci objevili například tím, že se mu podařilo najít a využít chyby v operačním systému Linux, která v něm existovala 27 let a nikdo si ji doposud nevšiml.
Vedle bezpečnostních hrozeb přináší tento model také jednu zásadní byznysovou otázku: když AI model dokáže najít chybu, kterou desítky tisíc odborníků neodhalili za téměř tři dekády, nevstupujeme definitivně do éry AI-kyberbezpečnosti? Mají firmy působící v této oblasti ještě nějaký smysl a budoucnost?
I zde se láme byznysový chleba. Anthropic totiž vytipoval několik bezpečnostních firem, které do svého pilotního projektu pozval. Jsou to samozřejmě americké společnosti jako CrowdStrike, Palo Alto Networks nebo Cisco. Ostatní budou mít pravděpodobně smůlu.
Firmy v Česku investují do výzkumu a vývoje čím dál víc, ale paradoxně méně využívají daňové odpočty, které jim mohou výrazně ušetřit náklady. Nová data Českého statistického úřadu ukazují, že tento nástroj zůstává pro mnoho podniků složitý a nejistý.
Firmy šetří miliardy, ale nevyužívají příležitost. Daňové odpočty na výzkum zůstávají stranou
Zprávy z firem
