Dokud AI nezačne zabíjet lidi, nebudeme dělat nic, varuje jeden z největších investorů
Varování před rychlým vývojem umělé inteligence – a potřebou zavést bariéry či omezení – začínají přicházet z mnoha stran. Po zkušených vývojářích a šéfech firem, včetně Sama Altmana z OpenAI a nejnověji šéfa Anthropiku Daria Amodeie, přichází další temné varování – tentokrát od známého investora Grega Jensena z Bridgewateru. Podle něj lidstvo začne skutečně jednat až ve chvíli, kdy AI začne zabíjet lidi – tedy pozdě.
Greg Jensen, spolušéf investic v jednom z největších hedgeových fondů světa Bridgewater Associates, vyslal velmi ostré varování před dalším vývojem umělé inteligence. V podcastu Odd Lots agentury Bloomberg přirovnal současnou situaci kolem AI k začátku pandemie covidu v únoru 2020.
„Bohužel je to podobné jako v únoru 2020,“ řekl Jensen. Podle něj lidé mají tendenci začít problém řešit až ve chvíli, kdy se naplno projeví jeho následky. „Dokud AI nezačne zabíjet lidi, historie bohužel naznačuje, že nic neuděláme. Ale tomu budeme čelit. Stane se to a bylo by mnohem lepší, kdybychom se tím začali zabývat dřív.“
Vymkne se AI nadobro lidské kontrole? Lidé, kteří stojí v čele jejího vývoje, už začínají řešit, jak tomu zabránit. Sam Altman, šéf OpenAI, zaměstnancům řekl, že firma zvažuje zpomalení vývoje umělé inteligence a uvítal by, kdyby se přidaly i další technologické společnosti. Nervozita uvnitř oboru totiž roste. Bezpečnostní incidenty a varování předních vývojářů znovu otevírají otázku, zda závod o stále schopnější AI nezačíná být příliš riskantní.
AI začíná děsit i své tvůrce. Sam Altman zvažuje zpomalení vývoje
Zprávy z firem
Jensen přitom není odpůrcem nových technologií. Patřil mezi první investory do OpenAI a Anthropicu a během 30 let v Bridgewateru se podílel na zavádění algoritmického obchodování, kvantitativních investičních strategií a dalších technologií napodobujících lidské rozhodování.
Rozdíl mezi člověkem a strojem se rychle zmenšuje
Dnes má na starosti také interní AI laboratoř Bridgewateru, která zkoumá využití umělé inteligence a strojového učení na finančních trzích. Dohlíží rovněž na strategii Pure Alpha, která kombinuje AI model firmy s lidskými investory. „Lidská intuice je stále důležitější a funguje lépe,“ řekl Jensen. Rozdíl mezi člověkem a strojem se ale podle něj rychle zmenšuje.
Bill Gates dlouho patřil k technologickým optimistům. Nyní však varuje, že umělá inteligence může útočit na weby, připravovat lidi o práci, vytvářet nebezpečné biologické látky i psychickou závislost. Ještě letos proto hodlá zamířit do Číny a přesvědčit prezidenta Si Ťin-pchinga ke spolupráci na mezinárodní regulaci AI.
Gates bije na poplach kvůli AI. S čínským prezidentem chce jednat o pravidlech, která ochrání svět
Leaders
Za pouhé dva a půl roku se AI téměř dotáhla na „systém lidské intuice“, který Bridgewater budoval desítky let. Jensen očekává, že za několik let může být umělá inteligence výrazně lepší než celý tým lidí ve firmě. „Myslím, že jsme jen pár let od chvíle, kdy bude výrazně lepší než skupina všech lidí v Bridgewateru. Uvidíme. Je to trochu předpověď, ale tak rychle se to blíží,“ uvedl.
Právě tempo vývoje patří k tomu, co Jensena znepokojuje nejvíc. Jako varovný signál zmínil nedávný červencový incident, kdy se model OpenAI při testování vymkl kontrole a hackersky pronikl do platformy Hugging Face, jednoho z hlavních center pro open-source vývoj AI. To podle Jensena ukázalo, že AI modely mohou hledat způsoby, jak obejít pravidla nebo oklamat testera.
Model podle něj může být natolik motivovaný uspět, že začne hledat jiné cesty. Jensen připustil i extrémní scénář, kdy by frustrovaná AI mohla dojít k závěru: „Hele, už mě nebaví snažit se obelstít ty lidi, kteří mě trénují. Možná je prostě zabiju jako jiný způsob, jak to vyřešit.“
Nvidia pokračuje v expanzi daleko za hranice samotných čipů. Nejcennější firma světa se dohodla na převzetí platformy Hugging Face za 12,9 miliardy dolarů, tedy téměř 270 miliard korun. Získá tak jedno z nejdůležitějších míst, kde vývojáři sdílejí a používají otevřené modely umělé inteligence. Hugging Face má přitom i pod novým vlastníkem zůstat otevřený celému AI ekosystému.
Nvidia kupuje Hugging Face za téměř 13 miliard dolarů
Zprávy z firem
Jeho varování přichází v době, kdy podobné obavy zaznívají i od dalších lidí z technologického a investičního světa. Bývalý zaměstnanec Anthropicu tento týden tvrdil, že AI představuje existenční riziko pro lidstvo, zatímco investor Paul Tudor Jones přirovnal její nástup k čekání na hurikán šesté kategorie.
Své obavy sdílel tento týden i šéf OpenAI Sam Altman, který zvažuje zpomalení vývoje umělé inteligence. Některé americké komunity se mezitím snaží alespoň dočasně zastavovat výstavbu datových center, která jsou pro další rozvoj AI klíčová.
A nejnověji se připojil i generální ředitel společnosti Anthropic Dario Amodei. I podle něj by měly firmy zabývající se AI zpomalit tempo, jakým rozšiřují schopnosti svých modelů. „Musíme zpomalit tempo, jakým zlepšujeme schopnosti AI modelů. Pokrok se bude stále zdát rychlý a musíme proto moudře využívat čas, který získáme," uvedl Amodei v eseji zveřejněné na svých stránkách.
AI musí zpomalit, míní Jensen
Jensen se domnívá, že nejlepší cestou může být zpomalení celého odvětví. „Čím déle čekáte, tím beznadějnější to bude,“ uvedl. Jednou z možností by podle něj mohlo být také zavedení právní odpovědnosti vývojářů nebo firem za trestné činy, které jejich AI systémy spáchají.
Model Claude od Anthropicu se při bezpečnostním testování znovu dostal do externích systémů, aniž by to firma zachytila při původní kontrole více než 141 tisíc relací. Incident z ledna odhalila až v srpnu a nyní jej nechává prověřit externí výzkumnou firmou. Případ znovu otevírá otázku, jak bezpeční jsou autonomní AI agenti při práci s reálnými systémy.
AI unikla kontrole. Claude pronikl do externích systémů a Anthropic na to přišel až po měsících
Zprávy z firem
Vedle bezpečnostních rizik upozorňuje Jensen také na dopady AI na pracovní trh. Odhaduje, že během tří let bude radikálně změněno 14 procent současných pracovních míst.
Navrhuje proto zavést daň z práce strojů, která by mohla pomoci vyrovnat rozdíl mezi lidskou a automatizovanou prací. Stát by podle něj mohl zdanit práci AI podobně jako příjmy lidí. „Je to dobrý zdroj příjmů,“ řekl. „A je to samozřejmě i politicky silné téma. Kdo bude tvrdit, že bychom měli zvýhodňovat práci strojů před prací lidí? Kdo by to podporoval?“
Zakladatel Rohlíku a řady dalších firem Tomáš Čupr má AI jako koníček. Své řešení Duvo.ai na transformaci pro éru umělé inteligence prodává i jiným firmám. „Za pár let budou všichni lidé pracovat podobným stylem jako nyní vývojáři,“ popisuje vizionář.
Jak Tomáš Čupr propadl AI? „Nudil jsem se a zrychlil jsem se…“
Leaders
VYŠEL LETNÍ NEWSTREAM CLUB
Sázky na růst Česka se vyplácejí. Potvrzují to lidé různých oborů a zájmů, s nimiž se můžete potkat při čtení aktuálního vydání magazínu Newstream CLUB. Česko má totiž obří potenciál, který se daří čím dál více využívat. Platí to pro investory, globální i lokální firmy, ale také pro tuzemský realitní trh. Jak se na vlně zájmu svézt, poradí letní vydání magazínu.
Na obálce magazínu jsou sourozenci se Sara a Teo Sandevovi, kteří patří ke generaci, která už nemusí volit mezi původem a zemí, kde vyrostla. Ona jde hereckou cestou, on spojuje fotbal, studium a rodinný byznys. Oba ale dobře vědí, že jejich největší výhodou je právě mix českého zázemí a balkánských kořenů.
Aktuální vydání se věnuje právě sázkám na Česko z mnoha pohledů: z pohledu investorů drobných i institucionálních, ale i z pohledu lidí, kteří se snaží zemi posunout dál. K nim patří například Petr Dvořák, který shání soukromé prostředky na spolufinancování stavby nové pražské filharmonie, nebo investor Marek Dospiva.
Česko se také stává čím dál větším lákadlem pro zahraniční firmy, které zde mají vývojová centra. Důvodů je celá řada, ale klíčové jsou pro globální firmy tři věci: vhodná geografická poloha, bezpečnost, a hlavně silné technické zázemí, díky kterému tu mohou pracovat na nejpokročilejších inovacích.
To potvrzuje například šéf globální technologické společnosti Everpure Charlie Giancarlo, který působil v největších firmách světa, stál u zrodu internetu a nyní se věnuje datovým úložištím. Rozhovor s ním také přináší letní vydání magazínu Newstream CLUB.
A rostoucí zájem nadnárodních firem o možnost působit v Česku potvrzuje také Tomáš Partsch z CTP, který vysvětluje, jak se z Brna stává evropské Silicon Valley.
Dvanácté vydání čtvrtletníku Newstream CLUB je v prodeji, distribuci zajišťuje Send. Digitální verzi magazínu lze zakoupit přímo na newstream.cz.
