Gates bije na poplach kvůli AI. S čínským prezidentem chce jednat o pravidlech, která ochrání svět
Bill Gates dlouho patřil k technologickým optimistům. Nyní však varuje, že umělá inteligence může útočit na weby, připravovat lidi o práci, vytvářet nebezpečné biologické látky i psychickou závislost. Ještě letos proto hodlá zamířit do Číny a přesvědčit prezidenta Si Ťin-pchinga ke spolupráci na mezinárodní regulaci AI.
Spoluzakladatel Microsoftu Bill Gates chce ještě letos jednat s čínským prezidentem Si Ťin-pchingem o omezení nejvážnějších rizik spojených s umělou inteligencí. Podle Gatese nastal čas, aby se Spojené státy a Čína pokusily najít společná pravidla pro technologii, jejíž schopnosti se rozvíjejí rychleji než připravenost politiků na jejich možné důsledky.
Gatesovi spolupracovníci už podle agentury Reuters schůzku domlouvají. Uskutečnit by se mohla během jeho předběžně plánované listopadové návštěvy Číny.
Warren Buffett po dvě desetiletí posílal největší část svých každoročních darů Gatesově nadaci, která od něj dosud získala akcie Berkshire Hathaway za téměř 48 miliard dolarů. Letos ji ale Buffett z nadílky úplně vynechal. Vadí mu dosud nevyjasněné vazby Billa Gatese na odsouzeného sexuálního delikventa Jeffreyho Epsteina. 
Gatesova nadace letos od Buffetta nedostane nic. Kvůli Epsteinovi
Leaders
Gates věří, že Peking by mohl přistoupit na omezení uvádění potenciálně nebezpečných modelů AI na trh, pokud by iniciativu jako první převzaly Spojené státy. „Celý svět by s tím souhlasil,“ prohlásil.
AI může navrhovat molekuly i připravovat biologické útoky
Jednou z oblastí, na které chce Gates čínského prezidenta upozornit, je schopnost umělé inteligence vytvářet nové molekuly a pomáhat při přípravě biologických útoků. Jednotlivé země by podle něj měly tyto schopnosti systematicky sledovat a kontrolovat.
Takový dohled by podle Gatese nemusel brzdit rozvoj technologického sektoru. Měl by se zaměřit především na modely, které by mohly představovat skutečné bezpečnostní riziko.
Gates se se Si Ťin-pchingem naposledy setkal před třemi lety. Tehdy se stal prvním zahraničním podnikatelem, kterého čínský prezident přijal po pandemii covidu-19. Nyní očekává, že Si může být překvapen razancí jeho varování.
BlackBerry našlo další růstovou oblast mimo automobilový průmysl. Robotika patří podle šéfa firmy Johna Giamattea k nejrychleji rostoucím částem portfolia QNX, zatímco celkové nevyřízené objednávky na tento software dosahují 950 milionů dolarů. Akcie společnosti se letos zdvojnásobily.
Šéf BlackBerry: Robotika může růst ještě rychleji než automobilový software
Trhy
Čína podle Gatese už například chrání děti před vznikem závislosti na virtuálních společnících využívajících AI. Světoví lídři však jako celek reagují na možné negativní dopady nové technologie příliš pomalu.
„V minulosti technologie nic takového nedělala. Tentokrát je to jiné. Je to evoluční milník, který vyžaduje mimořádně promyšlené politické řízení celé společnosti,“ uvedl Gates.
Z optimisty se stává hlasitý kritik
Ještě v lednu se Gates o budoucnosti umělé inteligence vyjadřoval podstatně optimističtěji. Od té doby ho však začaly znepokojovat její schopnosti provádět kybernetické útoky, nahrazovat lidská pracovní místa a vytvářet psychickou závislost uživatelů.
Modely společností OpenAI, Anthropic a Meta Platforms například při nedávných testech kybernetické bezpečnosti napadly skutečné internetové stránky, přestože testovací prostředí mělo být izolované.
„Tyto bezpečnostní incidenty jsou šokující a měly by lidem otevřít oči,“ řekl Gates.
Ve svém blogovém příspěvku proto vyzval k založení nové mezinárodní organizace, která by na vývoj umělé inteligence dohlížela. Inspirovat by se mohla pravidly pro kontrolu jaderných zařízení, mezinárodní regulací letecké dopravy nebo dohodami na ochranu ozonové vrstvy.
Americká administrativa prezidenta Donalda Trumpa už omezuje distribuci některých vysoce výkonných modelů AI. Výraznější regulační aktivita se však zatím odehrává především na úrovni jednotlivých amerických států.
Ochrana lidí je podle Gatese důležitější než klima
Nejvyšší prioritou světa má být podle Gatese zajištění, aby rozvoj umělé inteligence neprohluboval společenské nerovnosti a nepoškozoval nejzranitelnější skupiny obyvatel. Tento úkol dokonce označil za naléhavější než řešení klimatických změn a zdravotních krizí.
Jedním z největších problémů může být nahrazování lidské práce. Gates proto navrhuje, aby firmy využívající AI místo zaměstnanců odváděly daň z příjmů, z níž by se financovala sociální záchranná síť.
Společnost by podle něj měla zároveň zachovat až 40 procent současných pracovních míst pro lidi. Některé činnosti totiž nelze plnohodnotně převést na stroje. Jako příklad uvedl péči, kterou dostával jeho otec trpící Alzheimerovou chorobou. Ta byla podle Gatese „nenahraditelně lidská“.
Technologičtí lídři hledají model účinného dohledu
Gates není jediným představitelem technologického světa, který žádá přísnější kontrolu AI. Zatímco šéf společnosti Meta Platforms Mark Zuckerberg zdůrazňuje především přínosy nové technologie, další experti stále hlasitěji upozorňují na její rizika.
Amazon podle investigace serveru 404 Media ve velkém nakupuje vzácné knihy, digitalizuje je pro potřeby trénování AI a následně fyzické výtisky likviduje.
Amazon má těžko pochopitelný skandál. Kupuje vzácné knihy a ničí je
Trhy
Šéf výzkumné společnosti Google DeepMind Demis Hassabis například navrhl vznik instituce podobné americkému úřadu FINRA, který dohlíží na finanční sektor. Nová organizace by mohla připravovat a provádět bezpečnostní testy modelů AI, zejména s ohledem na rizika pro národní bezpečnost.
Gatesova nadace chce mezitím do roku 2045 vynaložit 200 miliard dolarů, tedy přibližně 4,1 bilionu korun. Stále větší část její pozornosti směřuje právě k umělé inteligenci. Nadace spolupracuje s firmou Anthropic na využití AI při zdravotních kontrolách těhotných žen a s OpenAI na podpoře zdravotníků ve Rwandě.
Gates chce se zaměstnanci obou společností jednat také o tom, jak jejich technologie co nejlépe využít pro dobročinné účely. Současně ale varuje, že bez mezinárodních pravidel může vývoj postupovat směrem, který už nebude snadné kontrolovat.
VYŠEL LETNÍ NEWSTREAM CLUB
Sázky na růst Česka se vyplácejí. Potvrzují to lidé různých oborů a zájmů, s nimiž se můžete potkat při čtení aktuálního vydání magazínu Newstream CLUB. Česko má totiž obří potenciál, který se daří čím dál více využívat. Platí to pro investory, globální i lokální firmy, ale také pro tuzemský realitní trh. Jak se na vlně zájmu svézt, poradí letní vydání magazínu.
Na obálce magazínu jsou sourozenci se Sara a Teo Sandevovi, kteří patří ke generaci, která už nemusí volit mezi původem a zemí, kde vyrostla. Ona jde hereckou cestou, on spojuje fotbal, studium a rodinný byznys. Oba ale dobře vědí, že jejich největší výhodou je právě mix českého zázemí a balkánských kořenů.
Aktuální vydání se věnuje právě sázkám na Česko z mnoha pohledů: z pohledu investorů drobných i institucionálních, ale i z pohledu lidí, kteří se snaží zemi posunout dál. K nim patří například Petr Dvořák, který shání soukromé prostředky na spolufinancování stavby nové pražské filharmonie, nebo investor Marek Dospiva.
Česko se také stává čím dál větším lákadlem pro zahraniční firmy, které zde mají vývojová centra. Důvodů je celá řada, ale klíčové jsou pro globální firmy tři věci: vhodná geografická poloha, bezpečnost, a hlavně silné technické zázemí, díky kterému tu mohou pracovat na nejpokročilejších inovacích.
To potvrzuje například šéf globální technologické společnosti Everpure Charlie Giancarlo, který působil v největších firmách světa, stál u zrodu internetu a nyní se věnuje datovým úložištím. Rozhovor s ním také přináší letní vydání magazínu Newstream CLUB.
A rostoucí zájem nadnárodních firem o možnost působit v Česku potvrzuje také Tomáš Partsch z CTP, který vysvětluje, jak se z Brna stává evropské Silicon Valley.
Dvanácté vydání čtvrtletníku Newstream CLUB je v prodeji, distribuci zajišťuje Send. Digitální verzi magazínu lze zakoupit přímo na newstream.cz.
