Stanislav Šulc: AI firmy už připomínají ropné giganty. Kašlou na bezpečnost a pak se suše omlouvají

Data jsou nová ropa a umělá inteligence změní svět víc než železnice, elektřina a kolo dohromady. Alespoň s takovými očekáváními pracují AI firmy, jejich zakladatelé, investoři, politici a v podstatě již skoro každý, kdo o vývoji světa alespoň občas přemýšlí. AI firmy se tak skutečně již chovají jako ropní giganti, alespoň v tom, že ve snaze utéct ostatním ignorují následky. A když dojde k průšvihu, pokrčí rameny a řeknou: Sorry. A to je docela problém.

Nejspíš jste zaznamenali alespoň některý z příkladů toho, že nějaký AI agent, který měl třeba hlídat zaplacené faktury, začal prolézat systém dané společnosti nebo instituce. Obdobných případů, kdy se AI agenti „splašili“ a začali se chovat autonomněji, než byl jejich účel, začíná přibývat. A s tím, jak se globální ekonomiky čím dál více přesouvají na AI infrastrukturu, lze očekávat dokonce boom podobných událostí.

Když se podobná událost odehrála v systému australské vládní instituce, už to začíná být takový reputační problém, že se i vedení dané AI společnosti (konkrétně OpenAI) mělo potřebu se omlouvat. Zvláště když se blíží další kolo financování, v němž OpenAI shání další desítky miliard dolarů a valuaci kolem 1,4 bilionu dolarů, což je historicky bezprecedentní.

Nedávné incidenty ale již pomalu mají potenciál stát se skutečným reputačním rizikem, protože přicházejí v době, kdy se na veřejnost dostávají čím dál jasnější důkazy toho, že v AI společnostech mají s bezpečností vlastních produktů problémy.

Kultura podceňování rizik

Nejde přitom o případy, kdy se prostě něco pokazí. Spíše to začíná celé vypadat jako systémová věc. Čím dál více to totiž vypadá, že největší provideři AI modelů své modely přestávají mít pod kontrolou a ve skutečnosti ani sami nevědí, co se v nich děje. Jsou okouzleni dovednostmi modelů, které marketingově dokonale využívají, ale zároveň hrozí, že v těchto firmách funguje „kultura“ podceňování rizik.

A nejsou v tom sami. Podněcují je investoři, kteří potřebují obhájit historicky bezprecedentní sázky na budoucí produkty, i čelní političtí představitelé, kteří z AI dokázali v podstatě již nyní vytvořit potenciální zbraň hromadného ničení. A tak jde přeci o to mít těch nejlepších zbraní co možná nejvíc.

Veřejná debata pak je už naprosto zjednodušená, takže každý, kdo pěkný AI příběh narušuje, je označen za nepřítele když ne pokroku, tak rovnou státu. A paradoxně to platí i pro lidi, kteří se vývojem AI aktivně zabývají.

video

Pro kyberšmejdy je přístup do vašeho AI chatbota zlatý důl

Leaders

Kde je hranice mezi informováním a snahou ovlivnit druhého? Co se mění s AI, personalizací a možností generovat obsah v obrovském měřítku? A jaké nástroje má obyčejný člověk ve sporu s organizovanými strukturami, které mu mnohdy chtějí uškodit? Moderátorka Sara Polak si do epizody podcastové série Sedm hříchů dobré společnosti věnované zneužívání informací a mocenské manipulaci pozvala lékaře Tomáše Šebka a odborníka na kybernetickou bezpečnost Milana Půlkrábka alias Sodomáka. Podcast najdete na portálu YouTube a newstream.cz.

sta

Přečíst článek

Když omluva nestačí

Ale vraťme se k té omluvě OpenAI. Je to sice hezké, že i taková firma se umí omluvit, ale je to zoufale nedostačující gesto. Jen o milimetr „lepší“ než tradiční korporátní ticho ve snaze problém prostě vysedět, protože přeci svět stejně nemá na výběr.

To je poněkud ošemetný moment. Ano, zdá se, že v tuto chvíli se firmy jako OpenAI, Anthropic či Google dostaly do pozice, kde se bez nich svět skutečně přestane otáčet (metaforicky řečeno, samozřejmě). I tak by svět neměl přestat trvat na tom, že když tyto firmy něco zpackají, nejen že se omluví, ale že také začnou důsledně pracovat na nápravě a ideálně přijdou s kompenzací.

Bohužel z historie známe situace, že takto svět fungovat nejspíš nebude. Jsou jimi ropné společnosti, kterým sem tam ztroskotá nějaký tanker a zničí zásadní část přírody na dlouhé dekády. Sice jejich šéf pak také řekne nějaké to Sorry, ale vzhledem k tomu, že přeci všichni chcete jezdit autem a všichni chcete bohatnout na růstu průmyslu, tak takové katastrofy musíte akceptovat.

Ceny nemovitostí jen tak neklesnou, říká hlavní analytik Broker Consulting

Názory

Čechy stále více lákají nemovitosti nejen v tuzemsku, ale také v zahraničí. Zatímco u moře často řeší druhé bydlení pro vlastní potřebu, doma se mnohdy nechají zlákat vidinou zdánlivě jistého zisku. „Na různých místech se teď objevují pohádky o zbohatnutí, které s realitou nemají nic společného,“ vysvětluje Martin Novák z Broker Consulting. Upozorňuje, že pronájem nemovitosti je především práce s lidmi, a právě tam řada majitelů naráží.

Klára Sýkora (Sudová)

Přečíst článek