Gates bije na poplach kvůli AI. S čínským prezidentem chce jednat o pravidlech, která ochrání svět
Bill Gates dlouho patřil k technologickým optimistům. Nyní však varuje, že umělá inteligence může útočit na weby, připravovat lidi o práci, vytvářet nebezpečné biologické látky i psychickou závislost. Ještě letos proto hodlá zamířit do Číny a přesvědčit prezidenta Si Ťin-pchinga ke spolupráci na mezinárodní regulaci AI.
Spoluzakladatel Microsoftu Bill Gates chce ještě letos jednat s čínským prezidentem Si Ťin-pchingem o omezení nejvážnějších rizik spojených s umělou inteligencí. Podle Gatese nastal čas, aby se Spojené státy a Čína pokusily najít společná pravidla pro technologii, jejíž schopnosti se rozvíjejí rychleji než připravenost politiků na jejich možné důsledky.
Gatesovi spolupracovníci už podle agentury Reuters schůzku domlouvají. Uskutečnit by se mohla během jeho předběžně plánované listopadové návštěvy Číny.
Warren Buffett po dvě desetiletí posílal největší část svých každoročních darů Gatesově nadaci, která od něj dosud získala akcie Berkshire Hathaway za téměř 48 miliard dolarů. Letos ji ale Buffett z nadílky úplně vynechal. Vadí mu dosud nevyjasněné vazby Billa Gatese na odsouzeného sexuálního delikventa Jeffreyho Epsteina. 
Gatesova nadace letos od Buffetta nedostane nic. Kvůli Epsteinovi
Leaders
Gates věří, že Peking by mohl přistoupit na omezení uvádění potenciálně nebezpečných modelů AI na trh, pokud by iniciativu jako první převzaly Spojené státy. „Celý svět by s tím souhlasil,“ prohlásil.
AI může navrhovat molekuly i připravovat biologické útoky
Jednou z oblastí, na které chce Gates čínského prezidenta upozornit, je schopnost umělé inteligence vytvářet nové molekuly a pomáhat při přípravě biologických útoků. Jednotlivé země by podle něj měly tyto schopnosti systematicky sledovat a kontrolovat.
Takový dohled by podle Gatese nemusel brzdit rozvoj technologického sektoru. Měl by se zaměřit především na modely, které by mohly představovat skutečné bezpečnostní riziko.
Gates se se Si Ťin-pchingem naposledy setkal před třemi lety. Tehdy se stal prvním zahraničním podnikatelem, kterého čínský prezident přijal po pandemii covidu-19. Nyní očekává, že Si může být překvapen razancí jeho varování.
BlackBerry našlo další růstovou oblast mimo automobilový průmysl. Robotika patří podle šéfa firmy Johna Giamattea k nejrychleji rostoucím částem portfolia QNX, zatímco celkové nevyřízené objednávky na tento software dosahují 950 milionů dolarů. Akcie společnosti se letos zdvojnásobily.
Šéf BlackBerry: Robotika může růst ještě rychleji než automobilový software
Trhy
Čína podle Gatese už například chrání děti před vznikem závislosti na virtuálních společnících využívajících AI. Světoví lídři však jako celek reagují na možné negativní dopady nové technologie příliš pomalu.
„V minulosti technologie nic takového nedělala. Tentokrát je to jiné. Je to evoluční milník, který vyžaduje mimořádně promyšlené politické řízení celé společnosti,“ uvedl Gates.
Z optimisty se stává hlasitý kritik
Ještě v lednu se Gates o budoucnosti umělé inteligence vyjadřoval podstatně optimističtěji. Od té doby ho však začaly znepokojovat její schopnosti provádět kybernetické útoky, nahrazovat lidská pracovní místa a vytvářet psychickou závislost uživatelů.
Modely společností OpenAI, Anthropic a Meta Platforms například při nedávných testech kybernetické bezpečnosti napadly skutečné internetové stránky, přestože testovací prostředí mělo být izolované.
„Tyto bezpečnostní incidenty jsou šokující a měly by lidem otevřít oči,“ řekl Gates.
Ve svém blogovém příspěvku proto vyzval k založení nové mezinárodní organizace, která by na vývoj umělé inteligence dohlížela. Inspirovat by se mohla pravidly pro kontrolu jaderných zařízení, mezinárodní regulací letecké dopravy nebo dohodami na ochranu ozonové vrstvy.
Americká administrativa prezidenta Donalda Trumpa už omezuje distribuci některých vysoce výkonných modelů AI. Výraznější regulační aktivita se však zatím odehrává především na úrovni jednotlivých amerických států.
Ochrana lidí je podle Gatese důležitější než klima
Nejvyšší prioritou světa má být podle Gatese zajištění, aby rozvoj umělé inteligence neprohluboval společenské nerovnosti a nepoškozoval nejzranitelnější skupiny obyvatel. Tento úkol dokonce označil za naléhavější než řešení klimatických změn a zdravotních krizí.
Jedním z největších problémů může být nahrazování lidské práce. Gates proto navrhuje, aby firmy využívající AI místo zaměstnanců odváděly daň z příjmů, z níž by se financovala sociální záchranná síť.
Společnost by podle něj měla zároveň zachovat až 40 procent současných pracovních míst pro lidi. Některé činnosti totiž nelze plnohodnotně převést na stroje. Jako příklad uvedl péči, kterou dostával jeho otec trpící Alzheimerovou chorobou. Ta byla podle Gatese „nenahraditelně lidská“.
Technologičtí lídři hledají model účinného dohledu
Gates není jediným představitelem technologického světa, který žádá přísnější kontrolu AI. Zatímco šéf společnosti Meta Platforms Mark Zuckerberg zdůrazňuje především přínosy nové technologie, další experti stále hlasitěji upozorňují na její rizika.
Amazon podle investigace serveru 404 Media ve velkém nakupuje vzácné knihy, digitalizuje je pro potřeby trénování AI a následně fyzické výtisky likviduje.
Amazon má těžko pochopitelný skandál. Kupuje vzácné knihy a ničí je
Trhy
Šéf výzkumné společnosti Google DeepMind Demis Hassabis například navrhl vznik instituce podobné americkému úřadu FINRA, který dohlíží na finanční sektor. Nová organizace by mohla připravovat a provádět bezpečnostní testy modelů AI, zejména s ohledem na rizika pro národní bezpečnost.
Gatesova nadace chce mezitím do roku 2045 vynaložit 200 miliard dolarů, tedy přibližně 4,1 bilionu korun. Stále větší část její pozornosti směřuje právě k umělé inteligenci. Nadace spolupracuje s firmou Anthropic na využití AI při zdravotních kontrolách těhotných žen a s OpenAI na podpoře zdravotníků ve Rwandě.
Gates chce se zaměstnanci obou společností jednat také o tom, jak jejich technologie co nejlépe využít pro dobročinné účely. Současně ale varuje, že bez mezinárodních pravidel může vývoj postupovat směrem, který už nebude snadné kontrolovat.
VYŠEL PODZIMNÍ NEWSTREAM CLUB
Lepší život jako téma čísla
Změna k lepšímu je jedním z témat aktuálního vydání magazínu Newstream CLUB. Šířeji pak je tématem longevity, nebo obecněji lepší život. A to nejen každého konkrétního člověka, ale také společnosti nebo firem.
Na obálce magazínu je Radek Kašpárek. Hvězdný šéfkuchař je nový člověk, alespoň to říká v titulním rozhovoru. „Byl jsem prudší, výbušnější, taková neřízená střela. Celkově jsem se časem zklidnil, dostal se do větší pohody a tím se ve mně uklidnilo i ego,“ říká.
V novém magazínu tak čtenáři najdou například rozhovor s Pavlem Loudou. Jeho jméno patří k synonymům tuzemského vozoparku, protože je jedním z nejúspěšnějších prodejců aut u nás. Ale zároveň koupil také sklárny, v nichž pracovali jeho rodiče, investoval do nich stamiliony a dnes již může zhodnotit, jak se tato investice vyplatila.
Na rady rodičů vzpomíná také Barbara Paldus, dcera českých emigrantů, která se narodila v Kanadě, uspěla v Silicon Valley a dnes vyrábí kosmetiku, jež vychází z přírodních tradic, ale je podpořená high-endovou vědou. „Na magii sice nevěřím, ale umím věřit věcem, které zatím neumíme vysvětlit,“ říká vědkyně.
A o to, jak razantně změnit život po šedesátce, se podělí Hana Janata, lékařka, která v 55 začala profesionálně tančit a po šedesátce se stala modelkou. A spolupracuje s nejprestižnějšími značkami světa.
Třinácté vydání čtvrtletníku Newstream CLUB je v prodeji, distribuci zajišťuje Send. Digitální verzi magazínu lze zakoupit přímo na newstream.cz.
