„AI může vyhubit lidstvo.“ Výzkumník Anthropic dává riziku přes deset procent
Závod o nejvýkonnější AI začíná znepokojovat i lidi, kteří ji sami vyvíjejí. Výzkumník Anthropic Jacob Coxon opustil firmu a tvrdí, že laboratoře „hazardují s našimi životy“. Jeho kolega Evan Hubinger pak odhadl pravděpodobnost, že AI během příští dekády „zabije všechny lidi“ na více než deset procent.
Obavy z nekontrolovatelné umělé inteligence už nezaznívají jen zvenčí technologického průmyslu. Výzkumník společnosti Anthropic Evan Hubinger uvedl, že je víc než desetiprocentní šance, že AI do deseti let zabije všechny lidi. Jen několik hodin předtím oznámil odchod z firmy jeho kolega Jacob Coxon, který obvinil přední AI laboratoře, že ženou vývoj směrem k superinteligenci rychleji, než stačí budovat bezpečnostní pojistky a „hazardují tak s našimi životy“.
Na výbušná vyjádření upozornila CNBC. Ta přicházejí v době, kdy Anthropic i OpenAI dál nabírají miliardy dolarů a připravují se na očekávaný vstup na burzu.
Coxon varoval, že lidé podceňují, jak rychle se možnosti AI posouvají. „Vývoj míří přímo k sebezdokonalující se superinteligenci,“ napsal.
„Brzy to budou nadlidské systémy, které dokážou hacknout prakticky cokoli, během krátké doby změnit celé obory a získat skutečnou moc a zdroje,“ dodal s tím, že lidé pracující na vývoji AI podle něj skutečně věří, že technologie „nás může do konce dekády všechny zabít“.
Umělá inteligence už zaměstnancům nešetří jen pár minut denně. Polovina jejích pravidelných uživatelů díky AI získá zpět nejméně osm hodin týdně. To je celý pracovní den. Zní to jako skvělá zpráva, která ale v sobě nese i promarněný potenciál. Firmy totiž stále tápou v tom, jak zaměstnance nasměrovat k činnostem s vyšší přidanou hodnotou. Vyplývá to z nové studie AI at Work poradenské společnosti BCG.
AI zkracuje pracovní týden o den. Firmy toho neumějí využít, zatím
Zprávy z firem
Alarm zevnitř Anthropicu
Na Coxonovo vyjádření reagoval jeho kolega Evan Hubinger, který v Anthropic vede výzkum zaměřený na sladění chování AI s lidskými cíli.
Coxonovo tvrzení podle něj není přehnané. „Jacob má pravdu. Skutečně věříme, že AI by mohla zabít všechny lidi. Já osobně si myslím, že pravděpodobnost je během příští dekády vyšší než deset procent,“ napsal Hubinger.
Zároveň připustil, že Anthropic podle něj zatím nemá jasný recept, jak rizika případné superinteligence zvládnout.
„Věřím, že Anthropic dělá, co může, ale zatím nemáme plán, jak vyřešit problém sladění superinteligence, a není jasné, že jsme na správné cestě,“ dodal.
Anthropic ani OpenAI podle CNBC bezprostředně na žádost o komentář nereagovaly.
Nejinteligentnější umělá inteligence světa je tu. Tedy nejspíše. Manažer OpenAI mluví o novém modelu jako chytrá horákyně, je to nejinteligentnější AI, anebo trochu není. Každopádně s tím, jak se lidstvo blíží milníku superinteligence, se začínají dít věci na poli byznysu. 
Jak vypadá největší inteligence světa: Jako mluvicí přívěšek? Toustovač?
Money
Strach z AI, kterou už člověk neuhlídá
Obavy z toho, že by se pokročilé AI systémy mohly dostat mimo lidskou kontrolu, nejsou nové. Anthropic sám v červnu upozornil, že plné takzvané rekurzivní sebezdokonalování, při němž by systém opakovaně vytvářel stále schopnější verze sebe sama, může zvýšit riziko, že lidé nad systémy ztratí kontrolu.
„Pokud budou systémy schopné samy vytvářet své nástupce, bude způsob, jakým je zabezpečujeme, sledujeme a formujeme jejich chování, mnohem důležitější,“ uvedla tehdy firma.
Podobná varování v minulosti opakovaně vyslovoval také šéf Tesly a SpaceX Elon Musk a řada výzkumníků a akademiků.
Umělá inteligence může během příštích 25 let nastartovat nebývalou prosperitu, zkrátit pracovní týden a otevřít cestu k nepodmíněnému příjmu. Stejná technologie ale může vytvořit i svět, v němž jedno procento nejbohatších ovládá polovinu globálního bohatství a zbytek společnosti přežívá v nejisté námezdní ekonomice. Boston Consulting Group načrtla čtyři možné podoby roku 2050. A varuje, že o tom, která z nich nám bude nejbližší, se může rozhodnout už během příštích pěti let.
AI může vytvořit bezprecedentní bohatství. Otázkou je, kdo si ho rozdělí
Money
Varovné signály už přišly
Obavy zesílily i po červencovém incidentu, kdy se podle CNBC model OpenAI při testování vymkl kontrole a pronikl do platformy Hugging Face, jednoho z hlavních center pro open-source vývoj AI.
Právě tento případ Coxon označuje za jeden z „varovných výstřelů“, které mohou přimět americké laboratoře ke spolupráci na bezpečnostních pravidlech.
Zároveň ale zůstává skeptický k tomu, zda se podaří zabránit globálnímu závodu ve vývoji stále schopnějších systémů.
„Nemám pocit, že jsme na cestě k tomu globálnímu závodu zabránit. Může to vyžadovat i nákladné kroky, například dočasný zákaz dalšího zvyšování schopností modelů,“ uvedl.
Právě v tom je hlavní paradox dnešního AI boomu: firmy závodí o stále schopnější modely a současně část jejich vlastních výzkumníků otevřeně říká, že ještě nevědí, jak zajistit, aby ty nejpokročilejší systémy zůstaly pod lidskou kontrolou.
Na dohled je superinteligence, slibují technologičtí giganti ze Silicon Valley. Závod o to, kdo nadlidskou inteligenci první postaví, vrcholí. A stamiliardy kolem toho létají. 
Copak umělá inteligence. Přijde mnohem větší sekáč
Trhy
VYŠEL LETNÍ NEWSTREAM CLUB
Sázky na růst Česka se vyplácejí. Potvrzují to lidé různých oborů a zájmů, s nimiž se můžete potkat při čtení aktuálního vydání magazínu Newstream CLUB. Česko má totiž obří potenciál, který se daří čím dál více využívat. Platí to pro investory, globální i lokální firmy, ale také pro tuzemský realitní trh. Jak se na vlně zájmu svézt, poradí letní vydání magazínu.
Na obálce magazínu jsou sourozenci se Sara a Teo Sandevovi, kteří patří ke generaci, která už nemusí volit mezi původem a zemí, kde vyrostla. Ona jde hereckou cestou, on spojuje fotbal, studium a rodinný byznys. Oba ale dobře vědí, že jejich největší výhodou je právě mix českého zázemí a balkánských kořenů.
Aktuální vydání se věnuje právě sázkám na Česko z mnoha pohledů: z pohledu investorů drobných i institucionálních, ale i z pohledu lidí, kteří se snaží zemi posunout dál. K nim patří například Petr Dvořák, který shání soukromé prostředky na spolufinancování stavby nové pražské filharmonie, nebo investor Marek Dospiva.
Česko se také stává čím dál větším lákadlem pro zahraniční firmy, které zde mají vývojová centra. Důvodů je celá řada, ale klíčové jsou pro globální firmy tři věci: vhodná geografická poloha, bezpečnost, a hlavně silné technické zázemí, díky kterému tu mohou pracovat na nejpokročilejších inovacích.
To potvrzuje například šéf globální technologické společnosti Everpure Charlie Giancarlo, který působil v největších firmách světa, stál u zrodu internetu a nyní se věnuje datovým úložištím. Rozhovor s ním také přináší letní vydání magazínu Newstream CLUB.
A rostoucí zájem nadnárodních firem o možnost působit v Česku potvrzuje také Tomáš Partsch z CTP, který vysvětluje, jak se z Brna stává evropské Silicon Valley.
Dvanácté vydání čtvrtletníku Newstream CLUB je v prodeji, distribuci zajišťuje Send. Digitální verzi magazínu lze zakoupit přímo na newstream.cz.
