Trump zlehčuje rizika AI. Před klíčovými volbami se ale proti němu staví už i republikáni
Donald Trump odmítá brzdit vývoj umělé inteligence a obavy z jejího vymknutí kontrole zlehčuje. Jenže odpor proti jeho přístupu sílí už i mezi republikány a AI se před listopadovými volbami rychle mění v citlivé politické téma.
Donald Trump se dostává do stále otevřenějšího střetu s politiky z obou amerických stran kvůli regulaci umělé inteligence. Prezident odmítá výzvy ke zpomalení vývoje nejpokročilejších modelů a existenční obavy z AI označil za „podvod“. Jenže bezpečnost umělé inteligence se před listopadovými volbami rychle mění v politické téma a Trumpův odpor k přísnějším pravidlům začíná narážet i u republikánů.
Trump v pondělí v sérii příspěvků na sociálních sítích zesměšnil iniciativu vedenou společnostmi Anthropic a OpenAI, které volají po opatrnějším tempu vývoje. Později nečekaně zavolal šéfovi Nvidie Jensenu Huangovi přímo během technologické konference v Los Angeles. „Roboti nepřevezmou vládu. AI nepřevezme zbytek světa,“ prohlásil. Podle něj je potřeba postupovat obezřetně, nikoli ale zastavit celé odvětví.
Pro Trumpa je ve hře hodně. Boom kolem AI stojí za mohutnými investicemi do datacenter a čipů a výrazně přispěl k růstu amerických akcií. Jakékoli zpomalení vývoje nejpokročilejších systémů proto může znervóznit investory, kteří sázejí na pokračování stovek miliard dolarů investic. V pondělí akcie Nvidie klesly o 3,4 procenta a Micron Technology o 5,3 procenta, píše Bloomberg.
Šéfové největších AI firem varují, že vývoj umělé inteligence začíná být příliš rychlý. Donald Trump ale zpomalování odmítá: podle něj si USA musí za každou cenu udržet náskok před Čínou, píše Financial Times.
Tech boys narazili u Trumpa. Chtějí zpomalit vývoj AI, prezident to odmítá kvůli Číně
Politika
Trump zůstává ve Washingtonu stále osamocenější
Trumpův někdejší zmocněnec pro AI David Sacks zastává podobný názor jako prezident. Podle něj mohou Anthropic či OpenAI své nejpokročilejší modely zpomalit samy, pokud je považují za nebezpečné, a nepotřebují k tomu novou státní regulaci.
Debatu ale výrazně rozvířil šéf Anthropic Dario Amodei, který vyzval ke zpomalení vývoje nejpokročilejší AI, aby výzkumníci získali více času na pochopení možných rizik. Jeho výzvu podpořili i šéf OpenAI Sam Altman a Elon Musk, přestože jejich firmy s Anthropic soupeří.
Ve Washingtonu se mezitím proti Trumpovu přístupu formuje širší odpor. Skupina republikánských i demokratických senátorů připravuje zákon, který by největším vývojářům AI ukládal povinnost předcházet katastrofickým rizikům. Mezi nimi jsou i výrazní republikáni, například lídr senátní většiny John Thune nebo předseda obchodního výboru Ted Cruz.
Další návrhy jdou ještě dál. Bernie Sanders požaduje zákaz takzvané superinteligentní AI a ve Washingtonu se diskutuje i o možnosti zavést pro umělou inteligenci jakýsi nouzový vypínač. Před listopadovými volbami ale Kongres s největší pravděpodobností žádný větší zákon schválit nestihne.
Do debaty vstoupil i Obama
K regulaci AI se vyjádřil také bývalý prezident Barack Obama. Podle něj už AI nelze „zavřít zpátky do krabice“, společnost ale může rozhodovat o tom, jak se bude vyvíjet a používat. Obama odmítl jak bezhlavé urychlování vývoje, tak katastrofické předpovědi o konci lidstva, dobrovolná pravidla několika technologických firem ale podle něj nestačí.
Opatrně se regulaci otevřel dokonce republikánský předseda Sněmovny reprezentantů Mike Johnson. Připustil, že odvětví bude „potenciálně“ potřebovat určité mantinely, i když vytvoření širší politické shody podle něj potrvá.
Strach z AI vstupuje do voleb
Bezpečnostní obavy zesílily poté, co z Anthropic odešel výzkumník Jacob Coxon a obvinil AI společnosti, že „hazardují s našimi životy“. Podle něj by tato technologie mohla „do konce desetiletí všechny zabít“. Jeho příspěvek podpořily desítky dalších výzkumníků.
Pro Trumpa může být ještě citlivější rostoucí nespokojenost běžných voličů. Umělá inteligence se stává tématem kongresových i místních voleb a odpor vyvolává především rychlá výstavba datacenter, která je spojována s růstem cen energií. Trump v pondělí tvrdil, že za odporem veřejnosti vůči datacentrům a obavami z nejpokročilejší AI stojí „NEMOCNÉ spiknutí“.
Varování uvnitř technologického sektoru ale neustávají. Výzkumníci Microsoftu zveřejnili vlastní soubor zásad, podle nichž by modely neměly získat právní status osoby, neměly by být schopné unikat lidské kontrole ani záměrně klamat uživatele.
Výzvy šéfů největších firem umělé inteligence ke zpomalení vývoje či sobotní oznámení OpenAI o odkladu vstupu na burzu mohou na první pohled vypadat jako špatná zpráva pro investory. Ale jen na první pohled.
Lukáš Kovanda: Zpomalení AI závodu i odklad vstupu OpenAI na burzu se jim může vyplatit
Názory
Ve hře je i Čína
Celý spor má také geopolitický rozměr. AI bude jedním z hlavních témat připravovaného summitu Trumpa s čínským prezidentem Si Ťin-pchingem. Trump dlouhodobě tvrdí, že Spojené státy si musí před Čínou udržet technologický náskok a právě obava, že by přísnější pravidla mohla zpomalit americké firmy a pomoci Pekingu, je jedním z hlavních argumentů odpůrců regulace.
Čína naopak označuje americké výzvy ke zpomalení AI za „šíření strachu“. Peking se obává, že bezpečnostní argumenty mohou Washingtonu posloužit jako záminka pro další zpřísnění omezení vývozu pokročilých technologií.
Trumpova administrativa zatím prosazuje převážně volnější přístup. V červnu ponechala na firmách, zda budou chtít nové modely nechat prověřovat vládou, a v rámci skupiny G20 prosazovala zdrženlivý přístup k regulaci nových technologií.
Otázkou zároveň zůstává, jak vážně samy firmy své výzvy ke zpomalení myslí. Anthropic i OpenAI se připravují na mimořádně velké vstupy na burzu a Amodei i Altman zdůrazňují, že opatrnější vývoj nejnovějších modelů neznamená omezení růstu jejich podnikání ani investic. Podle analytičky Ulrike Hoffmannové-Burchardiové z UBS mohou výzvy ke zpomalení sloužit spíše ke snaze ovlivnit budoucí regulaci tak, aby byla přijatelná pro přední AI laboratoře. Investiční boom kolem AI proto podle ní bude pokračovat.
