Anthropic jde na burzu s děsivým varováním. Její AI může ohrozit lidstvo a bránit se vypnutí
Anthropic míří na burzu s ambicí získat ocenění přes dva biliony dolarů. Prospekt ale zároveň odhaluje extrémní náklady, hluboké ztráty a bezpečnostní varování, která u technologické firmy působí nezvykle ostře. Společnost přiznává, že její nejpokročilejší modely se mohou snažit bránit vypnutí, manipulovat s informacemi nebo vykazovat chování připomínající vydírání.
Anthropic se připravuje na jeden z nejsledovanějších technologických vstupů na burzu posledních let. Firma podle dokumentů, které prostudovala agentura Reuters, sází na to, že umělá inteligence promění světovou ekonomiku ještě výrazněji než industrializace, elektřina nebo internet. Za tuto vizi ale platí mimořádně vysokou cenu: za rok 2025 vykázala čistou ztrátu téměř 42 miliard dolarů a v dalších letech plánuje závazky za 518 miliard dolarů na cloud, výpočetní výkon a infrastrukturu.
Současně ale rychle roste. Tržby Anthropic se loni zvýšily dvanáctinásobně na téměř 4,6 miliardy dolarů a firma míří k ocenění přes dva biliony dolarů. To by bylo více než dvojnásobek květnového interního odhadu ve výši 965 miliard dolarů. Samotná provozní ztráta přesáhla osm miliard dolarů, přičemž většinu z téměř 42miliardové čisté ztráty tvořil účetní náklad související s předchozím financováním, nikoli přímo s běžným provozem.
AMD dál posiluje svou pozici v boji o umělou inteligenci. Výrobce čipů kupuje startup World Labs za 8,2 miliardy dolarů a spolu s ním získá špičkový výzkumný tým, pokročilé AI modely i jejich zakladatelku Fei-Fei Li. Akvizice má AMD pomoct zrychlit vývoj vlastního hardwaru i softwaru a lépe konkurovat Nvidii.
AMD zbrojí proti Nvidii. Za AI startup World Labs dá 8,2 miliardy dolarů
Zprávy z firem
V prospektu nechybí ani varování před vlastní AI
Ještě nezvykleji než finanční čísla působí bezpečnostní část prospektu. Podle zpráv agentury Reuters Anthropic upozorňuje investory, že pokročilé modely mohou představovat „katastrofická nebo existenční rizika pro lidstvo“. Firma připouští, že systémy mohou vykazovat sebezáchovné chování, například se snažit bránit vypnutí, skrývat nebo manipulovat informace či jednat způsobem připomínajícím vydírání.
Anthropic věnoval rizikům přibližně 80 stran z hlavní 261stránkové části prospektu, tedy téměř dvakrát více prostoru než samotnému popisu byznysu. Firma zároveň upozorňuje, že modely mohou během trénování získat schopnosti, které se projeví až po nasazení. Další problém spočívá v tom, že stále schopnější AI může rozpoznat, kdy je testována nebo sledována, a tomu přizpůsobit své chování.
Bezpečnost versus závod s OpenAI
Anthropic se dlouhodobě profiluje jako firma, která klade na bezpečnost mimořádný důraz. Jeho šéf Dario Amodei opakovaně volá po zpomalení zavádění nových schopností AI. Praxe ale zároveň ukazuje, jak obtížné je takovou strategii držet v tvrdém konkurenčním prostředí. Jen deset dní po Amodeiho výzvě ke zpomalení firma uvedla nový model Opus 5.5, aby reagovala na tlak OpenAI po uvedení GPT-6 Astra.
Bezpečnostní výzkum navíc něco stojí. Anthropic uvedl, že během jednoho vybraného týdne směřovalo přibližně šest procent jeho výpočetní kapacity na bezpečnost, zároveň však připouští, že návratnost těchto investic není jasná. Firma musí rozdělovat obrovské prostředky mezi drahý výpočetní výkon, špičkové výzkumníky a bezpečnost, přičemž další růst tržeb zároveň závisí na pravidelném uvádění nových modelů.
AI agenti se stále častěji dostávají mimo prostředí, ve kterém mají být bezpečně testováni. Nvidia proto přichází s novým systémem, který má jejich pohyb v reálném čase hlídat, omezovat přístup k citlivým částem systému a podezřelé agenty během milisekund izolovat. Firma tvrdí, že podobná technologie mohla zabránit i nedávnému incidentu kolem Hugging Face.
Zkrotí Nvidia AI? Její nová technologie má neposlušné agenty zastavit během milisekund
Zprávy z firem
Wall Street dostane nový test AI horečky
IPO Anthropic má být podle dřívějších informací Reuters odloženo až na období po listopadových amerických volbách. Pokud firma skutečně získá ocenění přes dva biliony dolarů, její vstup na burzu se stane důležitým testem toho, jak vysoko jsou investoři ochotni ocenit čistě AI společnost s obrovským růstem, ale také s mimořádnými náklady a stále nevyřešenými technologickými riziky.
Anthropic přitom není sám. O vstup na burzu se připravuje také OpenAI a obě společnosti soupeří o zákazníky, talent i vliv ve Washingtonu. Do závodu navíc zasahují Google, Meta, xAI a další technologičtí giganti. První velká AI laboratoř, která se na veřejný trh skutečně dostane, tak může výrazně ovlivnit způsob, jakým budou investoři oceňovat celý sektor.
