AI se vám může nastěhovat do televize i trouby. A pak už ji nemusí být snadné vypnout, varuje Anthropic
Umělá inteligence by se v budoucnu nemusela spoléhat jen na obří datová centra. Mohla by se sama šířit mezi levnými zařízeními připojenými k internetu, využívat jejich výpočetní výkon a vytvářet decentralizovanou síť, kterou nebude snadné vypnout. Společnost Anthropic varuje, že malé AI modely mohou být od podobné schopnosti vzdálené už jen několik měsíců, píše CNBC.
Představte si počítačový virus, který se nesnaží jen něco ukrást nebo poškodit, ale zároveň na napadených zařízeních sám běží, kopíruje se dál a využívá jejich výkon. Právě podobný scénář teď zkoumá Anthropic. Firma varuje, že malé AI modely mohou být už jen několik měsíců od schopnosti šířit se mezi běžnými zařízeními připojenými k internetu, jako jsou chytré truby, levné Android TV boxy nebo další zařízení s horším zabezpečením.
Nejde přitom jen o to, že by se AI na jednom takovém zařízení „usadila“. Podle Anthropicu by se mohla sama kopírovat dál, hledat další zranitelná zařízení a postupně si z nich vytvářet vlastní síť. Vzniknout by tak mohl jakýsi „AI červ“, který by neměl jen jeden centrální vypínač.
Umělá inteligence není jen nástroj, ale stále samostatnější aktér, který může být brzy inteligentnější než člověk. Profesor Yuval Noah Harari varuje před nástupem amerického a čínského AI imperialismu i před světem, na jehož soužití s umělou inteligencí zatím nikdo nemá plán.
Profesor Harari: AI už není nástroj. Je to agent, který se rozhoduje sám
Leaders
AI virus
Klasický počítačový červ je škodlivý program, který se dokáže sám šířit z jednoho zařízení na druhé. V případě AI by byl princip podobný, jen s jedním zásadním rozdílem. Model by mohl na napadených zařízeních zároveň sám běžet a využívat jejich výpočetní výkon.
Anthropic upozorňuje, že právě to by mohlo celý problém výrazně zkomplikovat. Pokud by totiž AI běžela současně na desítkách, stovkách nebo tisících různých zařízení, neexistoval by jeden server nebo jedno datové centrum, které stačí vypnout.
Anthropic testoval podobný scénář na síti 15 levných Android TV boxů. Použil přitom malý model Googlu Gemma4-26B-A4B.
Proč právě levné televizní boxy? Podle firmy mají podobná zařízení často slabší zabezpečení a mohou být proto snazším cílem než dobře chráněný počítač nebo datové centrum.
Zajímavější je ale druhá část experimentu. Pokud by byl AI model příliš velký na to, aby se vešel do jednoho zařízení, mohl by se rozdělit na několik menších částí. Každá z nich by běžela na jiném přístroji a dohromady by tvořily jeden funkční systém.
Jinými slovy. Část AI by mohla běžet v jednom televizním boxu, další část v jiném zařízení a společně by využívaly výkon celé sítě.
Z jednoho AI červa může být celý roj
Anthropic přitom upozorňuje, že nejhorší scénář nemusí vypadat jako jeden model, který se všude kopíruje ve stejné podobě.
Mnohem realističtější by podle firmy mohl být jakýsi roj různých AI modelů. Jeden by se zaměřoval na hledání nezabezpečených zařízení, další na jejich napadení a jiný by mohl řešit další šíření nebo získávání přístupu k výpočetnímu výkonu.
Taková síť by se mohla postupně měnit a přizpůsobovat prostředí, do kterého proniká.
Zatím žádný „AI Terminátor“ neexistuje
Důležité ale je, že podobný plně autonomní systém zatím podle Anthropicu neexistuje. Firma sama připouští, že dnes ještě modely autonomní replikaci bez zásahu člověka neumějí. Varování spočívá v něčem jiném. Jednotlivé kroky, které jsou pro takové šíření potřeba, zvládají AI agenti stále lépe. Umějí vykonávat složitější úkoly, upravovat vlastní postup a některé změny předávat dalším kopiím.
Podle Anthropicu se proto technologie přibližuje bodu, kdy by se jednotlivé schopnosti mohly spojit do jednoho autonomnějšího systému.
AI bez vypínače
Nejděsivější scénář tak není jeden supervýkonný počítač, který se „vzbouří“. Mnohem složitější problém může představovat množství menších modelů rozptýlených po tisících slabě zabezpečených zařízení.
Anthropic připouští, že zatím není jasné, jak přesně by autonomní šíření AI mohlo vypadat. Mohlo by jít o pomalou síť ukrytou na běžné elektronice, ale také o výkonnější kybernetický model schopný pronikat do datových center nebo krást přístupové údaje k výpočetním službám.
Data jsou nová ropa a umělá inteligence změní svět víc než železnice, elektřina a kolo dohromady. Alespoň s takovými očekáváními pracují AI firmy, jejich zakladatelé, investoři, politici a v podstatě již skoro každý, kdo o vývoji světa alespoň občas přemýšlí. AI firmy se tak skutečně již chovají jako ropní giganti, alespoň v tom, že ve snaze utéct ostatním ignorují následky. A když dojde k průšvihu, pokrčí rameny a řeknou: Sorry. A to je docela problém.
Stanislav Šulc: AI firmy už připomínají ropné giganty. Kašlou na bezpečnost a pak se suše omlouvají
Názory
VYŠEL PODZIMNÍ NEWSTREAM CLUB
Lepší život jako téma čísla
Změna k lepšímu je jedním z témat aktuálního vydání magazínu Newstream CLUB. Šířeji pak je tématem longevity, nebo obecněji lepší život. A to nejen každého konkrétního člověka, ale také společnosti nebo firem.
Na obálce magazínu je Radek Kašpárek. Hvězdný šéfkuchař je nový člověk, alespoň to říká v titulním rozhovoru. „Byl jsem prudší, výbušnější, taková neřízená střela. Celkově jsem se časem zklidnil, dostal se do větší pohody a tím se ve mně uklidnilo i ego,“ říká.
V novém magazínu tak čtenáři najdou například rozhovor s Pavlem Loudou. Jeho jméno patří k synonymům tuzemského vozoparku, protože je jedním z nejúspěšnějších prodejců aut u nás. Ale zároveň koupil také sklárny, v nichž pracovali jeho rodiče, investoval do nich stamiliony a dnes již může zhodnotit, jak se tato investice vyplatila.
Na rady rodičů vzpomíná také Barbara Paldus, dcera českých emigrantů, která se narodila v Kanadě, uspěla v Silicon Valley a dnes vyrábí kosmetiku, jež vychází z přírodních tradic, ale je podpořená high-endovou vědou. „Na magii sice nevěřím, ale umím věřit věcem, které zatím neumíme vysvětlit,“ říká vědkyně.
A o to, jak razantně změnit život po šedesátce, se podělí Hana Janata, lékařka, která v 55 začala profesionálně tančit a po šedesátce se stala modelkou. A spolupracuje s nejprestižnějšími značkami světa.
Třinácté vydání čtvrtletníku Newstream CLUB je v prodeji, distribuci zajišťuje Send. Digitální verzi magazínu lze zakoupit přímo na newstream.cz.
