Hrozí materiální pokrok, ale regrese lidstva, varoval papež Lev
Ve své první encyklice s názvem Magnifica Humanitas neboli Vznešené lidstvo Lev XIV. varoval před novou hrozbou pro lidstvo a práci, kterou představuje umělá inteligence. „AI se vyvíjí v intelektuálním prostředí, v němž jsou někteří lidé považováni za méně užitečné, méně žádoucí a méně hodnotné,“ varovala hlava církve.
Technologie by sama o sobě neměla být považována za sílu nepřátelskou lidstvu. Snaha o vyšší zisky sle nemůže ospravedlnit rozhodnutí, která systematicky obětují pracovní místa, napsal papež Lev XIV. v nové encyklice, kterou Vatikán představil v pondělí.
Encyklika je oficiální list nebo dopis papeže adresovaný biskupům i celé katolické církvi. Patří mezi nejvýznamnější dokumenty, které papež vydává, a obvykle se v ní vyjadřuje k důležitým otázkám víry, morálky, společnosti nebo politiky. Mívá velký vliv - v minulosti klidně i po stovky let. Současná encyklika s sebou nese zajímavou symboliku, a to hned v několika vrstvách. Papež ji představil veřejně se zástupcem firmy Anthropic, Christopherem Olahem, který sice není katolík, ale zavázal se k naplňování papežského apelu. Anthropic je jedním z tahounů současné AI revoluce. Symbolické je také načasování vlivného dokumentu.
Lev jako Lev
Ačkoli Lev XIV. encykliku veřejně představil v pondělí, formálně ji podepsal již 15. května, tedy v den 135. výročí vydání encykliky Rerum Novarum neboli O nových věcech – zásadního dokumentu, který v roce 1891 napsal jeho jmenovec Lev XIII. Ten usměrňoval katolické učení v otázce ochrany dělníků po technologických a průmyslových otřesech 19. století a stal se jedním ze základních sociálních dokumentů moderní církve. Navíc Lev XIV. navazuje i na svého předchůdce, papeže Františka. Ten rovněž varoval před nebezpečím umělé inteligence a volal po etickém využívání technologií.
Hlavu církve evidentně trápí hrozba, že AI sebere lidem pracovní uplatnění. Práce je podle jeho slov více než jen způsob obživy, je to „požadavek lidské existence, přirozená cesta k dospělosti, rozvoji a osobnímu naplnění.“ Vyzval k ochraně pracovních příležitostí a nezastupitelné roli jednotlivce.
Proto vyzdvihl důležitost zachování základní společenské role pro všechny lidské bytosti. „Společnost, která garantuje zaměstnání pouze malé části populace navzdory tomu, že dosáhla vysoké úrovně technického rozvoje, riskuje, že vystaví mnohé lidi nucené nečinnosti,“ napsal.
„To vytváří paradox materiálního pokroku a antropologického regresu, který podkopává základy spravedlivého a stabilního společenského míru,“ dodal.
Neprůhledné algoritmy
Papež ve své vůbec první encyklice také varoval, že neprůhledné algoritmy mohou vést k nové formě dehumanizace. „Algoritmy mohou zablokovat přístup ke zdravotní péči, zaměstnání a bezpečnosti na základě dat zatížených předsudky a nespravedlností,“ varovala hlava církve.
Dokument opakovaně kritizuje koncentraci moci a dat v rukou malého počtu lidí ze soukromého sektoru, což označuje za nebezpečí. Papež také podrobil kritice transhumanistické a posthumanistické vize mocných podnikatelů ze Silicon Valley, jako jsou Peter Thiel a Elon Musk, a napsal, že AI se vyvíjí v intelektuálním prostředí, v němž jsou někteří lidé považováni za „méně užitečné, méně žádoucí a méně hodnotné“.
První severoamerický papež Lev XIV. se takřka přes noc stal jednou z vůbec nejvlivnějších osobností planety. Do politiky se za každou cenu nehrne, přesto je dnes jedním z lídrů světa, který nepřistoupil na pravidla hry trumpovské Ameriky. Mnohé během svého prvního roku překvapil.
Svět nedal papežovi čas na rozkoukávání. První rok však zvládl Lev XIV. se ctí
Politika
Zbraně jako poslední instance
Encyklika také vyzvala k zavedení „nejpřísnějších etických omezení“ pro zbraně vyvinuté za použití umělé inteligence, čímž navázala na dlouhodobý odpor papeže i Vatikánu vůči válce.
„Rostoucí snadnost, s jakou lze autonomní zbraňové systémy nasadit, činí válku ‚uskutečnitelnější‘ a méně podléhající lidské kontrole,“ napsal Lev XIV. To je podle něj v rozporu se zásadou, že ozbrojená síla by měla být použita až jako poslední možnost v případech legitimní sebeobrany. Umělé inteligenci nemohou být svěřována rozhodnutí o životě a smrti lidí.
Papež volal také po „odzbrojení“ umělé inteligence a větší regulaci AI.
Je otázka, zda dokument padne v Silicon Valley na úrodnou půdu. „Nemyslím si, že ‚tech bros‘ ze Silicon Valley tomu budou nějak zvlášť naslouchat,“ řekla profesorka Noreen Herzfeld, ředitelka programu pro technologie a etiku na St. John’s School of Theology and Seminary v Collegeville v Minnesotě deníku The New York Times. „Ale myslím, že v rámci církve to bude sloužit jako referenční bod pro kněze a biskupy, a zejména pro ty z nás, kteří vzdělávají bohoslovce nebo mladé lidi.“
AI společnost, která letos způsobila šok svým novým modelem Mythos, finišuje nejnovější kolo financování. Účastní se jej tradiční investorské těžké váhy jako Dragoneer, Greenoaks, Sequoia Capital či Altimeter Capital a Anthropic by mohl získat až 30 miliard dolarů nového kapitálu. Tím by se podle Financial Times hodnota společnosti vyšplhala na 900 miliard dolarů a přeskočila by v hodnotě konkurenční OpenAI.
Anthropic předběhl OpenAI a je nejdražším AI startupem světa. Brzy vstoupí na burzu
Trhy
VYŠEL PODZIMNÍ NEWSTREAM CLUB
Lepší život jako téma čísla
Změna k lepšímu je jedním z témat aktuálního vydání magazínu Newstream CLUB. Šířeji pak je tématem longevity, nebo obecněji lepší život. A to nejen každého konkrétního člověka, ale také společnosti nebo firem.
Na obálce magazínu je Radek Kašpárek. Hvězdný šéfkuchař je nový člověk, alespoň to říká v titulním rozhovoru. „Byl jsem prudší, výbušnější, taková neřízená střela. Celkově jsem se časem zklidnil, dostal se do větší pohody a tím se ve mně uklidnilo i ego,“ říká.
V novém magazínu tak čtenáři najdou například rozhovor s Pavlem Loudou. Jeho jméno patří k synonymům tuzemského vozoparku, protože je jedním z nejúspěšnějších prodejců aut u nás. Ale zároveň koupil také sklárny, v nichž pracovali jeho rodiče, investoval do nich stamiliony a dnes již může zhodnotit, jak se tato investice vyplatila.
Na rady rodičů vzpomíná také Barbara Paldus, dcera českých emigrantů, která se narodila v Kanadě, uspěla v Silicon Valley a dnes vyrábí kosmetiku, jež vychází z přírodních tradic, ale je podpořená high-endovou vědou. „Na magii sice nevěřím, ale umím věřit věcem, které zatím neumíme vysvětlit,“ říká vědkyně.
A o to, jak razantně změnit život po šedesátce, se podělí Hana Janata, lékařka, která v 55 začala profesionálně tančit a po šedesátce se stala modelkou. A spolupracuje s nejprestižnějšími značkami světa.
Třinácté vydání čtvrtletníku Newstream CLUB je v prodeji, distribuci zajišťuje Send. Digitální verzi magazínu lze zakoupit přímo na newstream.cz.
