Hrozí materiální pokrok, ale regrese lidstva, varoval papež Lev
Ve své první encyklice s názvem Magnifica Humanitas neboli Vznešené lidstvo Lev XIV. varoval před novou hrozbou pro lidstvo a práci, kterou představuje umělá inteligence. „AI se vyvíjí v intelektuálním prostředí, v němž jsou někteří lidé považováni za méně užitečné, méně žádoucí a méně hodnotné,“ varovala hlava církve.
Technologie by sama o sobě neměla být považována za sílu nepřátelskou lidstvu. Snaha o vyšší zisky sle nemůže ospravedlnit rozhodnutí, která systematicky obětují pracovní místa, napsal papež Lev XIV. v nové encyklice, kterou Vatikán představil v pondělí.
Encyklika je oficiální list nebo dopis papeže adresovaný biskupům i celé katolické církvi. Patří mezi nejvýznamnější dokumenty, které papež vydává, a obvykle se v ní vyjadřuje k důležitým otázkám víry, morálky, společnosti nebo politiky. Mívá velký vliv - v minulosti klidně i po stovky let. Současná encyklika s sebou nese zajímavou symboliku, a to hned v několika vrstvách. Papež ji představil veřejně se zástupcem firmy Anthropic, Christopherem Olahem, který sice není katolík, ale zavázal se k naplňování papežského apelu. Anthropic je jedním z tahounů současné AI revoluce. Symbolické je také načasování vlivného dokumentu.
Lev jako Lev
Ačkoli Lev XIV. encykliku veřejně představil v pondělí, formálně ji podepsal již 15. května, tedy v den 135. výročí vydání encykliky Rerum Novarum neboli O nových věcech – zásadního dokumentu, který v roce 1891 napsal jeho jmenovec Lev XIII. Ten usměrňoval katolické učení v otázce ochrany dělníků po technologických a průmyslových otřesech 19. století a stal se jedním ze základních sociálních dokumentů moderní církve. Navíc Lev XIV. navazuje i na svého předchůdce, papeže Františka. Ten rovněž varoval před nebezpečím umělé inteligence a volal po etickém využívání technologií.
Hlavu církve evidentně trápí hrozba, že AI sebere lidem pracovní uplatnění. Práce je podle jeho slov více než jen způsob obživy, je to „požadavek lidské existence, přirozená cesta k dospělosti, rozvoji a osobnímu naplnění.“ Vyzval k ochraně pracovních příležitostí a nezastupitelné roli jednotlivce.
Proto vyzdvihl důležitost zachování základní společenské role pro všechny lidské bytosti. „Společnost, která garantuje zaměstnání pouze malé části populace navzdory tomu, že dosáhla vysoké úrovně technického rozvoje, riskuje, že vystaví mnohé lidi nucené nečinnosti,“ napsal.
„To vytváří paradox materiálního pokroku a antropologického regresu, který podkopává základy spravedlivého a stabilního společenského míru,“ dodal.
Neprůhledné algoritmy
Papež ve své vůbec první encyklice také varoval, že neprůhledné algoritmy mohou vést k nové formě dehumanizace. „Algoritmy mohou zablokovat přístup ke zdravotní péči, zaměstnání a bezpečnosti na základě dat zatížených předsudky a nespravedlností,“ varovala hlava církve.
Dokument opakovaně kritizuje koncentraci moci a dat v rukou malého počtu lidí ze soukromého sektoru, což označuje za nebezpečí. Papež také podrobil kritice transhumanistické a posthumanistické vize mocných podnikatelů ze Silicon Valley, jako jsou Peter Thiel a Elon Musk, a napsal, že AI se vyvíjí v intelektuálním prostředí, v němž jsou někteří lidé považováni za „méně užitečné, méně žádoucí a méně hodnotné“.
První severoamerický papež Lev XIV. se takřka přes noc stal jednou z vůbec nejvlivnějších osobností planety. Do politiky se za každou cenu nehrne, přesto je dnes jedním z lídrů světa, který nepřistoupil na pravidla hry trumpovské Ameriky. Mnohé během svého prvního roku překvapil.
Svět nedal papežovi čas na rozkoukávání. První rok však zvládl Lev XIV. se ctí
Politika
Zbraně jako poslední instance
Encyklika také vyzvala k zavedení „nejpřísnějších etických omezení“ pro zbraně vyvinuté za použití umělé inteligence, čímž navázala na dlouhodobý odpor papeže i Vatikánu vůči válce.
„Rostoucí snadnost, s jakou lze autonomní zbraňové systémy nasadit, činí válku ‚uskutečnitelnější‘ a méně podléhající lidské kontrole,“ napsal Lev XIV. To je podle něj v rozporu se zásadou, že ozbrojená síla by měla být použita až jako poslední možnost v případech legitimní sebeobrany. Umělé inteligenci nemohou být svěřována rozhodnutí o životě a smrti lidí.
Papež volal také po „odzbrojení“ umělé inteligence a větší regulaci AI.
Je otázka, zda dokument padne v Silicon Valley na úrodnou půdu. „Nemyslím si, že ‚tech bros‘ ze Silicon Valley tomu budou nějak zvlášť naslouchat,“ řekla profesorka Noreen Herzfeld, ředitelka programu pro technologie a etiku na St. John’s School of Theology and Seminary v Collegeville v Minnesotě deníku The New York Times. „Ale myslím, že v rámci církve to bude sloužit jako referenční bod pro kněze a biskupy, a zejména pro ty z nás, kteří vzdělávají bohoslovce nebo mladé lidi.“
AI společnost, která letos způsobila šok svým novým modelem Mythos, finišuje nejnovější kolo financování. Účastní se jej tradiční investorské těžké váhy jako Dragoneer, Greenoaks, Sequoia Capital či Altimeter Capital a Anthropic by mohl získat až 30 miliard dolarů nového kapitálu. Tím by se podle Financial Times hodnota společnosti vyšplhala na 900 miliard dolarů a přeskočila by v hodnotě konkurenční OpenAI.
Anthropic předběhl OpenAI a je nejdražším AI startupem světa. Brzy vstoupí na burzu
Trhy
VYŠEL JARNÍ NEWSTREAM CLUB
Soukromí je nový luxus. A možná i nejcennější dovednost dneška.
Jarní vydání magazínu Newstream CLUB se zaměřuje na téma, které dnes řeší miliardáři i běžní lidé – jak si uchovat vlastní prostor v době, kdy jsme neustále online. Soukromé kluby, tiché byty, digitální detox i život na očích veřejnosti.
V novém čísle přinášíme rozhovory s Vendulou Pizingerovou, youtuberem Tarym nebo zakladatelem Smarty.cz Petrem Syrůčkem. Nechybí inspirace ze světa byznysu, stylu ani cestování – a také konkrétní tipy, jak si soukromí znovu vzít zpět.
Jedenácté vydání čtvrtletníku Newstream CLUB je v prodeji na stáncích i v online distribuci Send, kde je možné titul také předplatit. Digitální verzi magazínu lze zakoupit přímo na webu newstream.cz.
Na další číslo magazínu se můžete těšit v červnu.
