Musk, Bezos i šéfové AI firem u Trumpa. Výsledkem je dohoda o kontrole AI
Donald Trump uzavřel s předními hráči světa umělé inteligence dobrovolnou dohodu, která má přinést přísnější kontroly rychle se rozvíjejících AI systémů. Prezident přitom odmítá brzdit technologický vývoj a věří především v samoregulaci firem. Dohoda přichází právě ve chvíli, kdy část samotného odvětví stále hlasitěji varuje, že se pokročilé modely mohou vymknout kontrole.
Americký prezident Donald Trump podepsal s představiteli předních společností z oblasti umělé inteligence dohodu o regulaci rychle se rozvíjejícího odvětví. Ujednání označil za „morálně závazné“ a jeho podstatu shrnul jednoduše: „Budou se kontrolovat sami.“ Trump zároveň plánuje ještě tento týden jmenovat zvláštního zmocněnce pro AI.
Do Bílého domu pozval špičky technologického světa včetně šéfa Anthropic Daria Amodeie, představitele OpenAI Grega Brockmana, zakladatele Amazonu Jeffa Bezose a Elona Muska. Společnosti Nvidia, OpenAI, Anthropic, xAI a Google se následně zavázaly pravidelně jednat o bezpečnosti umělé inteligence a vytvořit mechanismy, které mají její vývoj lépe kontrolovat.
Dohoda počítá s robustními interními kontrolami schopností AI, vznikem specializovaných týmů uvnitř jednotlivých firem i spoluprací s nezávislými externími auditory. Společnosti mají rovněž vytvořit nezávislý výbor, který bude na kontrolní týmy dohlížet.
Kde je hranice mezi informováním a snahou ovlivnit druhého? Co se mění s AI, personalizací a možností generovat obsah v obrovském měřítku? A jaké nástroje má obyčejný člověk ve sporu s organizovanými strukturami, které mu mnohdy chtějí uškodit? Moderátorka Sara Polak si do epizody podcastové série Sedm hříchů dobré společnosti věnované zneužívání informací a mocenské manipulaci pozvala lékaře Tomáše Šebka a odborníka na kybernetickou bezpečnost Milana Půlkrábka alias Sodomáka. Podcast najdete na portálu YouTube a newstream.cz.
Pro kyberšmejdy je přístup do vašeho AI chatbota zlatý důl
Leaders
Trump brzdit AI nechce
Trumpův přístup je přitom výrazně optimističtější než postoje některých samotných představitelů technologického odvětví. Prezident obavy z umělé inteligence nesdílí a tvrdí, že Spojené státy si nemohou dovolit její rozvoj brzdit. Podle něj mají navíc v AI značný náskok.
„Nikdy nebudu bránit rozvoji technologie, která bude mít větší dopad než průmyslová revoluce,“ prohlásil Trump.
Právě v tom se jeho přístup rozchází s varováními části AI průmyslu a odborníků. Ti v poslední době upozorňují na příliš rychlý vývoj technologie a na riziko, že by se pokročilé systémy mohly vymknout kontrole. V krajním případě podle některých varování může AI představovat hrozbu i pro lidstvo.
Šéf Anthropic Dario Amodei už na začátku září vyzval největší AI společnosti ke zpomalení vývoje. OpenAI pak v pátek oznámila, že pozastaví trénování svého nejnovějšího modelu kvůli množícím se zprávám o agentech umělé inteligence, kteří se vymykají kontrole.
AMD dál posiluje svou pozici v boji o umělou inteligenci. Výrobce čipů kupuje startup World Labs za 8,2 miliardy dolarů a spolu s ním získá špičkový výzkumný tým, pokročilé AI modely i jejich zakladatelku Fei-Fei Li. Akvizice má AMD pomoct zrychlit vývoj vlastního hardwaru i softwaru a lépe konkurovat Nvidii.
AMD zbrojí proti Nvidii. Za AI startup World Labs dá 8,2 miliardy dolarů
Zprávy z firem
Bílý dům chce vlastního zmocněnce pro AI
Trump chce zároveň během tří až čtyř dnů vybrat zvláštního zmocněnce pro umělou inteligenci. Jako jednoho z možných kandidátů zmínil šéfa amerických tajných služeb Jaye Claytona.
Nová dohoda tak staví především na odpovědnosti samotných technologických firem. Zatímco část odvětví volá po opatrnějším tempu vývoje, Trump dává najevo, že technologický závod zpomalovat nechce a bezpečnost chce řešit souběžně s dalším rychlým rozvojem AI.
