Profesor Harari: AI už není nástroj. Je to agent, který se rozhoduje sám

Umělá inteligence není jen nástroj, ale stále samostatnější aktér, který může být brzy inteligentnější než člověk. Profesor Yuval Noah Harari varuje před nástupem amerického a čínského AI imperialismu i před světem, na jehož soužití s umělou inteligencí zatím nikdo nemá plán.

Lidé přestali věřit médiím i institucím, univerzitám, vládám, nikomu. Zato však stále více věří algoritmům. Ty nás neustále mapují, mají o nás miliardy a miliardy informací, mnohdy o nás vědí více než my sami. Přesně vědí, po čem toužíme, co nám je líto. Tím nad námi mají velkou moc.

A to zostřuje otázku, podle čeho máme poznat, jestli žijeme ve světě, který jsme si zvolili, anebo zda jsme nebyli do něčeho vmanipulováni, varuje historik, filozof a jeden z nejvlivnějších intelektuálů dnešní doby, izraelský profesor Yuval Noah Harari.

„Lidé si myslí, že jednají podle své svobodné vůle, podle sebe sama, ale ve skutečnosti jde o manipulaci,“ uvedl Harari na úvod svého vystoupení včera večer na konferenci s názvem The Future Is Personal, pořádané think tankem Solvo. Algoritmy využívají sociální média, která podle něj v posledních deseti, patnácti letech „hackla“ lidi. „Když si vyslechnete nějaký příběh a kvůli němu se rozčílíte, je to vaše svobodná vůle, anebo manipulace,“ ptá se Harari.

Raketový růst významu umělé inteligence podle něj znamená nástup imperialismu nového typu. Dřívější modely imperialismu, ekonomický a vojenský, se vyznačovaly tím, že nebylo technicky možné soustředit veškerou moc do jednoho jediného místa. Když například britský obchodník prodal pušky Afgháncům, neměl k dispozici žádné tlačítko, po jehož zapnutí by tyto zbraně přestaly fungovat.

Stanislav Šulc: AI firmy už připomínají ropné giganty. Kašlou na bezpečnost a pak se suše omlouvají

Názory

Data jsou nová ropa a umělá inteligence změní svět víc než železnice, elektřina a kolo dohromady. Alespoň s takovými očekáváními pracují AI firmy, jejich zakladatelé, investoři, politici a v podstatě již skoro každý, kdo o vývoji světa alespoň občas přemýšlí. AI firmy se tak skutečně již chovají jako ropní giganti, alespoň v tom, že ve snaze utéct ostatním ignorují následky. A když dojde k průšvihu, pokrčí rameny a řeknou: Sorry. A to je docela problém.

Stanislav Šulc

Přečíst článek

Impérium AI ale taková tlačítka má dvě, protože umělá inteligence je ovládána ze dvou center, ze Spojených států a z Číny. Ostatní země jsou na americké či čínské AI závislé. Pokud by USA či Čína stiskly ono tlačítko, zastavily by se v ostatních zemích nemocnice, doprava, obrana, zásobování, prostě všechno. Je tu tedy otázka, jak si vlastně mohou země mimo USA a Čínu zachovat svobodu a nezávislost. Odpověď na ni není jasná.

 

Nebezpeční AI imigranti

Lidé podle profesora Harariho nejvíce chybují v tom, že AI považují za technologický nástroj, za vynález, podobně jako byl kdysi knihtisk či parní stroj. Umělá inteligence je agent, rozhoduje sama za sebe. „Ve finanční oblasti si může vytvořit vlastní investiční plán. Rozhodovat se, co bude kupovat, aniž by se ptal lidí. Může si vynalézt nové finanční nástroje, kterým třeba lidé vůbec nebudou rozumět,“ vysvětlil Harari.

V nejbližších letech podle profesora vznikne AI, která bude významně inteligentnější než člověk, a lidstvo zatím nemá žádný plán, jak s takovou entitou koexistovat.

„Všichni bychom měli mít velké obavy nikoliv z lidských emigrantů, ale z AI emigrantů. Když se zeptáte lidí, zda mají obavy z emigrace, tak v případě, že ano, uvádějí tři důvody: že jim vezmou práci, že změní kulturu a že jsou politicky neloajální. Já jako historik vím, že ne všichni emigranti jsou takoví, nicméně jsou to racionální obavy. Nicméně my bychom se měli mnohem více soustředit na AI imigranty.“

Anthropic jde na burzu s děsivým varováním. Její AI může ohrozit lidstvo a bránit se vypnutí

Trhy

Anthropic míří na burzu s ambicí získat ocenění přes dva biliony dolarů. Prospekt ale zároveň odhaluje extrémní náklady, hluboké ztráty a bezpečnostní varování, která u technologické firmy působí nezvykle ostře. Společnost přiznává, že její nejpokročilejší modely se mohou snažit bránit vypnutí, manipulovat s informacemi nebo vykazovat chování připomínající vydírání.

fry

Přečíst článek

„Ti nepřijedou jednu noc bez víz na lodi. Řítí se na nás rychlostí světla v té nejsofistikovanější struktuře. Jsou obsaženi v kamerách, v bankách, v systémech a budou vykonávat celou řadu profesí. Nahradí bankéře, novináře, možná i úředníky, účetní, právníky. Všechny profese, které zpracovávají informace,“ uvedl Harari.

AI imigranti budou přijíždět ze dvou míst, tedy z USA a z Číny. A určitě nebudou loajální k nikomu, k žádným vládám, žádným institucím, žádné kultuře, maximálně k USA či Číně, případně ke svým novějším klonům.

Macinka: je rozdíl mezi individuální a masovou migrací

Tématem konference pod mottem The Future Is Personal byla překotná proměna globálního světa, pojmy jako národ, mobilita lidí, důsledky nástupu umělé inteligence na strukturu zaměstnanosti i způsob myšlení lidí. Řečníci se zabývali otázkami jako, co se stane, když umělá inteligence začne přetvářet nejen způsob naší práce, ale i způsob našeho přemýšlení a rozhodování, jak si zachováme lidskou autonomii ve světě, který stále více utvářejí algoritmy a informační sítě či jak rozeznáme pravdu od manipulace.

Vystupující se shodli na tom, že jedinou cestou ke zvládání stále složitějších věcí na pozadí dnešního geopolitického vývoje je odolnost jedince, obnovování důvěry lidí v instituce i mezi sebou navzájem. Řečníci také debatovali o roli důvěry ve finančním sektoru, o migraci kapitálu či o zkušenostech s fungováním firem vlastněných státem v Polsku.

Přímým předřečníkem profesora Harariho byl ministr zahraničních věcí za Motoristy Petr Macinka. Ten upozornil na to, že často nerozlišujeme mezi individuální a masovou migrací. Tedy tím, zda z konkrétních důvodů, jako třeba válka či politické pronásledování, utíká jedinec, který chce uspět v cílové zemi a ví, že se musí přizpůsobit místním podmínkám a kultuře anebo zda jde o masovou migraci.

„Podstatou je, že přijímá základní pravidla společnosti, do které přišel. Něco jiného je, když se během krátké doby začnou přesunovat statisíce nebo možná miliony lidí,“ nastínil Macinka.

Přicházejí tak lidé, kteří si s sebou nesou své vlastní jazyky, vlastní náboženství, vlastní tradice, představy o rodině a pravidlech. Soustřeďují se na jednom místě, vytvářejí si vlastní sociální prostředí, vlastní komunity, vlastní společenské vazby. A někdy také vlastní instituce. „Při individuální migraci se přizpůsobuje především příchozí člověk, zatímco při masové migraci se musí výrazněji přizpůsobovat také celá přijímající společnost,“ upozornil ministr.

„Neříkám, že každá taková změna musí být nutně špatná, ale jako konzervativec jsem vůči nějakým prudším společenským změnám, jejichž důsledky nedokážeme úplně předvídat, přirozeně skeptický. Především se domnívám, že o jejich rozsahu a důsledcích musíme mít možnost otevřeně diskutovat,“ podtrhl Macinka.