Slepá víra v AI může být nový ekonomický problém. Lidé jí věří i tehdy, když se mýlí
Umělá inteligence slibuje rychlejší práci, vyšší produktivitu a jednodušší rozhodování. Jenže nová studie upozorňuje na odvrácenou stranu jejího masového používání. Lidé mají tendenci řídit se doporučeními AI i ve chvíli, kdy jsou chybná. Pro firmy, školy i jednotlivce to může znamenat jediné. Kritické myšlení se stává jednou z nejcennějších dovedností příštích let.
Umělá inteligence se během krátké doby proměnila z technologické novinky v běžný pracovní nástroj. Pomáhá psát texty, analyzovat data, hledat informace, plánovat úkoly i rozhodovat. V byznysu se od ní očekává úspora času a peněz. Ve školách má pomáhat s učením. V běžném životě odpovídá na otázky, které by lidé dříve hledali v knihách, článcích nebo u odborníků. Jenže právě tato pohodlnost může být problém.
Nový výzkum zaměřený na rozhodování lidí za pomoci AI ukazuje, že uživatelé mají silnou tendenci přijímat doporučení umělé inteligence automaticky. A to nejen tehdy, když jsou správná. Podle výsledků experimentů se účastníci řídili správnými doporučeními AI v 92,7 procenta případů. Znepokojivější je však druhá část zjištění: když se systém mýlil, lidé ho následovali téměř v 80 procentech případů.
„Jinými slovy, i když AI dá špatnou radu, většina lidí ji bez většího přemýšlení přijme,“ říká Michal Španěl, datový analytik a manažer JenPráce.cz.
Nový fenomén: kognitivní kapitulace
Autoři studie pro tento jev používají výraz „kognitivní kapitulace“. Popisují tím situaci, kdy člověk postupně přestává aktivně přemýšlet a rozhodování přenechává technologii.
Nejde přitom jen o lenost nebo neochotu ověřovat informace. Moderní nástroje umělé inteligence působí sebejistě, používají přesvědčivý jazyk a nabízejí odpovědi, které vypadají logicky. Pro běžného uživatele tak může být obtížné rozpoznat, kdy AI skutečně pomáhá a kdy pouze vytváří zdání jistoty.
„AI dnes působí velmi přesvědčivě a nabízí odpovědi, které znějí logicky a sebejistě, i když jsou chybné. To vede k tomu, že lidé nejenže doporučení přijmou, ale zároveň si za ním stojí s vyšší jistotou,“ říká Jan Dvořák z Počítačové školy GOPAS.
Pro zaměstnavatele i vzdělávací instituce je to důležitý signál. Nestačí lidi naučit AI používat. Stejně důležité bude učit je, kdy jí nevěřit.
Produktivita roste. Ale co schopnost myslet?
Ekonomický přínos umělé inteligence je zřejmý. Firmy ji nasazují do zákaznické podpory, marketingu, analýz, administrativy i vývoje. Zaměstnanci díky ní zvládnou některé úkoly rychleji a s nižšími náklady. Pro podniky, které bojují s nedostatkem lidí i tlakem na efektivitu, je to silný argument. Jenže rychlost nemusí automaticky znamenat lepší výsledek.
Pokud lidé začnou přebírat hotové odpovědi bez kontroly, může se chybovost přesunout jinam. Ne do samotného nástroje, ale do procesu rozhodování. Rizikem je, že zaměstnanci budou produkovat více výstupů, ale méně je ověřovat. V prostředí, kde záleží na přesnosti dat, právních formulacích, finančních rozhodnutích nebo komunikaci se zákazníky, může mít taková chyba konkrétní ekonomické dopady.
Podle Michala Černého ze společnosti Audiopro podobné závěry přinášejí i další výzkumy. Některé ukazují, že uživatelé ChatGPT vykazovali nižší zapojení mozku a horší výsledky při psaní než lidé, kteří AI nepoužívali.
Rychlé odpovědi mohou vést k mělčím znalostem
Podobný problém se objevuje i ve vzdělávání. Lidé, kteří se učí pomocí AI, mohou mít pocit, že látku zvládli rychleji. Ve skutečnosti ale často přeskočí klíčovou část učení, hledání, porovnávání zdrojů, formulování vlastních závěrů a práci s nejistotou.
AI nabízí hotovou odpověď. Uživatel tak nemusí procházet více zdrojů, zvažovat jejich důvěryhodnost ani sám stavět argumentaci. Krátkodobě to šetří čas. Dlouhodobě to ale může oslabovat schopnost samostatného uvažování.
A právě to může být problém nejen pro studenty, ale i pro pracovní trh. V ekonomice, kde rutinní úkoly stále častěji převezmou stroje, bude lidská přidaná hodnota spočívat hlavně ve schopnosti ptát se, vyhodnocovat, pochybovat a nést odpovědnost za rozhodnutí.
AI není nepřítel. Problém je slepá důvěra
Experti se shodují, že problémem není samotná technologie. Chatboti jako ChatGPT nebo další nástroje generativní AI mohou výrazně zrychlit práci a pomoci lidem zvládat úkoly, které by jim dříve zabraly násobně více času. Riziko vzniká ve chvíli, kdy se z pomocníka stane autorita.
„Odpovědi nejsou vždy správné. AI je statistický model, který často generuje pravděpodobné odpovědi, nikoliv ověřená fakta. Právě proto roste význam takzvané AI gramotnosti – tedy schopnosti rozumět tomu, jak tyto nástroje fungují, a kriticky hodnotit jejich výstupy,“ říká Marek Pščolka ze specializované platformy Žaluzieee.
AI gramotnost se tak může brzy stát podobně důležitou kompetencí, jako je dnes práce s počítačem, finanční gramotnost nebo schopnost orientovat se v digitálním prostředí.
Kritické myšlení bude konkurenční výhoda
Umělá inteligence pravděpodobně nezmizí. Naopak bude stále dostupnější, rychlejší a přesvědčivější. Tím větší význam bude mít schopnost rozpoznat, kdy její výstup dává smysl a kdy je nutné ho ověřit.
Pro firmy to znamená nutnost nastavit pravidla práce s AI. Pro školy povinnost učit studenty nejen nástroje používat, ale také je zpochybňovat. A pro jednotlivce jednoduché varování: rychlá odpověď nemusí být správná odpověď.
Umělá inteligence může být výkonný pomocník. Ale rozhodování by neměla převzít místo člověka. V ekonomice budoucnosti tak možná nebude největší výhodou ten, kdo AI používá nejvíc, ale ten, kdo ví, kdy jí nevěřit.
