„AI může vyhubit lidstvo.“ Výzkumník Anthropic dává riziku přes deset procent
Závod o nejvýkonnější AI začíná znepokojovat i lidi, kteří ji sami vyvíjejí. Výzkumník Anthropic Jacob Coxon opustil firmu a tvrdí, že laboratoře „hazardují s našimi životy“. Jeho kolega Evan Hubinger pak odhadl pravděpodobnost, že AI během příští dekády „zabije všechny lidi“ na více než deset procent.
Obavy z nekontrolovatelné umělé inteligence už nezaznívají jen zvenčí technologického průmyslu. Výzkumník společnosti Anthropic Evan Hubinger uvedl, že je víc než desetiprocentní šance, že AI do deseti let zabije všechny lidi. Jen několik hodin předtím oznámil odchod z firmy jeho kolega Jacob Coxon, který obvinil přední AI laboratoře, že ženou vývoj směrem k superinteligenci rychleji, než stačí budovat bezpečnostní pojistky a „hazardují tak s našimi životy“.
Na výbušná vyjádření upozornila CNBC. Ta přicházejí v době, kdy Anthropic i OpenAI dál nabírají miliardy dolarů a připravují se na očekávaný vstup na burzu.
Coxon varoval, že lidé podceňují, jak rychle se možnosti AI posouvají. „Vývoj míří přímo k sebezdokonalující se superinteligenci,“ napsal.
„Brzy to budou nadlidské systémy, které dokážou hacknout prakticky cokoli, během krátké doby změnit celé obory a získat skutečnou moc a zdroje,“ dodal s tím, že lidé pracující na vývoji AI podle něj skutečně věří, že technologie „nás může do konce dekády všechny zabít“.
Umělá inteligence už zaměstnancům nešetří jen pár minut denně. Polovina jejích pravidelných uživatelů díky AI získá zpět nejméně osm hodin týdně. To je celý pracovní den. Zní to jako skvělá zpráva, která ale v sobě nese i promarněný potenciál. Firmy totiž stále tápou v tom, jak zaměstnance nasměrovat k činnostem s vyšší přidanou hodnotou. Vyplývá to z nové studie AI at Work poradenské společnosti BCG.
AI zkracuje pracovní týden o den. Firmy toho neumějí využít, zatím
Zprávy z firem
Alarm zevnitř Anthropicu
Na Coxonovo vyjádření reagoval jeho kolega Evan Hubinger, který v Anthropic vede výzkum zaměřený na sladění chování AI s lidskými cíli.
Coxonovo tvrzení podle něj není přehnané. „Jacob má pravdu. Skutečně věříme, že AI by mohla zabít všechny lidi. Já osobně si myslím, že pravděpodobnost je během příští dekády vyšší než deset procent,“ napsal Hubinger.
Zároveň připustil, že Anthropic podle něj zatím nemá jasný recept, jak rizika případné superinteligence zvládnout.
„Věřím, že Anthropic dělá, co může, ale zatím nemáme plán, jak vyřešit problém sladění superinteligence, a není jasné, že jsme na správné cestě,“ dodal.
Anthropic ani OpenAI podle CNBC bezprostředně na žádost o komentář nereagovaly.
Nejinteligentnější umělá inteligence světa je tu. Tedy nejspíše. Manažer OpenAI mluví o novém modelu jako chytrá horákyně, je to nejinteligentnější AI, anebo trochu není. Každopádně s tím, jak se lidstvo blíží milníku superinteligence, se začínají dít věci na poli byznysu. 
Jak vypadá největší inteligence světa: Jako mluvicí přívěšek? Toustovač?
Money
Strach z AI, kterou už člověk neuhlídá
Obavy z toho, že by se pokročilé AI systémy mohly dostat mimo lidskou kontrolu, nejsou nové. Anthropic sám v červnu upozornil, že plné takzvané rekurzivní sebezdokonalování, při němž by systém opakovaně vytvářel stále schopnější verze sebe sama, může zvýšit riziko, že lidé nad systémy ztratí kontrolu.
„Pokud budou systémy schopné samy vytvářet své nástupce, bude způsob, jakým je zabezpečujeme, sledujeme a formujeme jejich chování, mnohem důležitější,“ uvedla tehdy firma.
Podobná varování v minulosti opakovaně vyslovoval také šéf Tesly a SpaceX Elon Musk a řada výzkumníků a akademiků.
Umělá inteligence může během příštích 25 let nastartovat nebývalou prosperitu, zkrátit pracovní týden a otevřít cestu k nepodmíněnému příjmu. Stejná technologie ale může vytvořit i svět, v němž jedno procento nejbohatších ovládá polovinu globálního bohatství a zbytek společnosti přežívá v nejisté námezdní ekonomice. Boston Consulting Group načrtla čtyři možné podoby roku 2050. A varuje, že o tom, která z nich nám bude nejbližší, se může rozhodnout už během příštích pěti let.
AI může vytvořit bezprecedentní bohatství. Otázkou je, kdo si ho rozdělí
Money
Varovné signály už přišly
Obavy zesílily i po červencovém incidentu, kdy se podle CNBC model OpenAI při testování vymkl kontrole a pronikl do platformy Hugging Face, jednoho z hlavních center pro open-source vývoj AI.
Právě tento případ Coxon označuje za jeden z „varovných výstřelů“, které mohou přimět americké laboratoře ke spolupráci na bezpečnostních pravidlech.
Zároveň ale zůstává skeptický k tomu, zda se podaří zabránit globálnímu závodu ve vývoji stále schopnějších systémů.
„Nemám pocit, že jsme na cestě k tomu globálnímu závodu zabránit. Může to vyžadovat i nákladné kroky, například dočasný zákaz dalšího zvyšování schopností modelů,“ uvedl.
Právě v tom je hlavní paradox dnešního AI boomu: firmy závodí o stále schopnější modely a současně část jejich vlastních výzkumníků otevřeně říká, že ještě nevědí, jak zajistit, aby ty nejpokročilejší systémy zůstaly pod lidskou kontrolou.
Na dohled je superinteligence, slibují technologičtí giganti ze Silicon Valley. Závod o to, kdo nadlidskou inteligenci první postaví, vrcholí. A stamiliardy kolem toho létají. 
Copak umělá inteligence. Přijde mnohem větší sekáč
Trhy
VYŠEL PODZIMNÍ NEWSTREAM CLUB
Lepší život jako téma čísla
Změna k lepšímu je jedním z témat aktuálního vydání magazínu Newstream CLUB. Šířeji pak je tématem longevity, nebo obecněji lepší život. A to nejen každého konkrétního člověka, ale také společnosti nebo firem.
Na obálce magazínu je hvězdný šéfkuchař Radek Kašpárek. Radek Kašpárek je nový člověk, alespoň to říká v titulním rozhovoru. „Byl jsem prudší, výbušnější, taková neřízená střela. Celkově jsem se časem zklidnil, dostal se do větší pohody a tím se ve mně uklidnilo i ego,“ říká.
V novém magazínu tak čtenáři najdou například rozhovor s Pavlem Loudou. Jeho jméno patří k synonymům tuzemského vozoparku, protože je jedním z nejúspěšnějších prodejců aut u nás. Ale zároveň koupil také sklárny, v nichž pracovali jeho rodiče, investoval do nich stamiliony a dnes již může zhodnotit, jak se tato investice vyplatila.
Na rady rodičů vzpomíná také Barbara Paldus, dcera českých emigrantů, která se narodila v Kanadě, uspěla v Silicon Valley a dnes vyrábí kosmetiku, jež vychází z přírodních tradic, ale je podpořená high-endovou vědou. „Na magii sice nevěřím, ale umím věřit věcem, které zatím neumíme vysvětlit,“ říká vědkyně.
A o to, jak razantně změnit život po šedesátce, se podělí Hana Janata, lékařka, která v 55 začala profesionálně tančit a po šedesátce se stala modelkou. A spolupracuje s nejprestižnějšími značkami světa.
Třinácté vydání čtvrtletníku Newstream CLUB je v prodeji, distribuci zajišťuje Send. Digitální verzi magazínu lze zakoupit přímo na newstream.cz.
