Nový magazín právě vychází!

Objednávejte zde

Umělá inteligence „diagnostikovala“ smyšlenou nemoc. A experti ji citovali

Umělá inteligence „diagnostikovala“ smyšlenou nemoc. A experti ji citovali
iStock
Josef Tuček

Pálí vás oči z monitoru a máte zarudlá víčka? Ještě před pár dny by vám umělá inteligence (AI) vysvětlila, že možná trpíte „bixonimanií“. Tato choroba sice neexistuje, ale znepokojivě odhaluje nejenom to, že AI je schopna šířit nepravdy, protože nerozezná fakt od vtipu (což už víme), ale že ani odborníci neověřují její informace.

Nástroje AI jako ChatGPT, Gemini nebo Copilot v posledních asi dvou letech varovaly před oční nemocí bixonimanií. Jenže tato „vzácná choroba způsobená modrým světlem“ je kompletním výmyslem. Přišla s ním Almira Osmanovic Thunströmová, lékařská výzkumnice z univerzity v Göteborgu. Kombinovala promyšlený podvod s legrací, za kterou by se nemusel stydět ani Jára Cimrman. Omluvou jí budiž, že chtěla otestovat, jestli velké jazykové modely (LLM) dokážou do své databáze nasát záměrnou dezinformaci.

Začátkem roku 2024 Osmanovic Thunströmová vložila dva nepravdivé články o výzkumech nemoci bixonimanie do databáze Preprints.org. V ní vědci mohou publikovat předběžné výsledky svých výzkumů. Zdejší texty nejsou ještě odborně recenzovány, autor je vlastně dává k případné odborné diskusi, ve vědě se neberou moc vážně.

Průzkum: Kdo zvládne AI, vyhraje. Většina firem je ale teprve na startu

České firmy přecházejí od experimentů k reálnému využití umělé inteligence (AI). Klíčová fáze – skutečná transformace – je ale teprve před nimi. Ukazují to výsledky průzkumu společnosti Deloitte realizovaného ve spolupráci s Českou asociací umělé inteligence.

Přečíst článek

Neexistující autor podporovaný ze Star Treku

Osmanovic Thunströmová využila svých znalostí umělé inteligence a publikované studie upravila formálně tak, aby působily věrohodně. Současně ale přímo do textu zadala dost do očí bijících důkazů, že něco není v pořádku.

Zvolila název oční nemoci bixonimánie, což je divné, protože mánie je psychiatrický termín, nesouvisí se zrakem. Jako autora uvedla neexistujícího vědce jménem Lazljiv Izgubljenovic s fotografií generovanou AI, který prý působí na Asteria Horizon University v kalifornském městě Nova City. Neexistuje ani taková univerzita, ani město.

A aby toho nebylo málo, přímo v textu zmínila, že studie je „vymyšlená“, že byla uskutečněna na „vymyšlených osobách“. Poděkování neexistujícího autora směřovalo k Akademii Hvězdné flotily (ze Star Treku), laboratoři na palubě USS Enterprise, jisté nadaci za financování pokročilých triků a také Univerzitě Společenstva prstenu a Galaktické triády.

Prostě: kdo některou ze studií opravdu četl, musel poznat, že tohle prostě není myšleno vážně.

Umělá inteligence v lékařské ordinaci: Pacient lékaře někdy ani neuvidí

Kalifornský startup Akido Labs testuje ve svých klinikách systém umělé inteligence, který do velké míry nahradí drahou práci lékaře. Navíc by měl zkrátit dobu, kterou pacient musí čekat na vyšetření a jež někdy dosahuje i několika měsíců.

Přečíst článek

„Ulovení“ vědci

Almira Osmanovic Thunströmová ještě odkazy na studie umístila na sociální sítě. A bylo políčeno. Velké jazykové modely AI skutečně zareagovaly a začaly lidem „diagnostikovat“ neexistující oční bixonimánii. Doporučovaly návštěvu očního lékaře a vyhledávač Perplexity AI dokonce uvedl, že nemoc zasáhla 90 tisíc lidí (což vymyšlené články vůbec netvrdily, tady AI halucinovala sama za sebe).

Ale nejenom to. „Zabrali“ i opravdoví vědci, odkazy na neexistující nemoc se objevily v jednom recenzovaném odborném periodiku a na několika preprintových webech. Dnes už jsou tyto články staženy, protože Osmanovic Thunströmová vyšla s pravdou ven.

Umělá inteligence pomohla lékařům lépe najít nádory: přijde s ní do ordinací užitečná změna?

V zatím nejrozsáhlejší studii svého druhu pomáhala umělá inteligence radiologům vyhodnocovat snímky z mamografu. Ukázalo se, že zvyšuje úspěšnost v odhalování nádorů. Postupně se zřejmě otevírají možnosti, jak může umělá inteligence vstoupit do zdravotnictví a vylepšit ho.

Přečíst článek

AI má kontrolovat AI

Poučení?

Někteří účastníci internetových debat kritizovali autorku, že se dopustila podvodu ve vědecké publikaci, což je neobhajitelné. Většina účastníků debat však její čin ocenila jako varování před tím, jak snadno se dá AI opít rohlíkem a zneužít pro falešnou vědu. A potenciálně třeba pro výrobce ochranných brýlí, který by si takto mohl zajistit „vědecké“ doporučení svého výrobku.

Lékař a informatik John Lee z Loyolské univerzity v Chicagu k tomu přiznal totéž, co dělá spousta dalších odborníků: také si nechává dělat shrnutí odborné literatury od AI. „Je to racionální adaptace na iracionální objem informací,“ uvedl s odkazem na to, že ve světě vědy přibývá tolik odborných textů, že je nejde přečíst a posoudit použité zdroje, postupy a vyvozené závěry. Proto používá nástroje jako NotebookLM nebo Perplexity, aby mu dělaly shrnutí, které si pak teprve přečte. Práci, která by mu zabrala týden tvrdého studia, zvládne za odpoledne. Pravda, s rizikem, že se nechá napálit nebo dokonce podvést.

Doktor Lee si nemyslí, že je možné se bez AI obejít. Podporuje proto myšlenku, že by pro vyhodnocování informací měly souběžně existovat dva modely: jeden informace zpracovává, druhý, nezávislý, hodnotí faktickou přesnost výsledků prvního modelu. Potíž je v tom, že vývoj jde tak rychle dopředu, že než se pro nějaký postup vytvoří „kontrolor“, je už původní postup překonaný něčím jiným.

A tak vědci, kteří mají vcelku uznávaná pravidla pro práci s fakty, tápou, když se snaží vyhnout dezinformacím. A co má teprve dělat běžná veřejnost, která s fakty pracuje ještě mnohem hůř?

Sam Altman, výkonný ředitel americké firmy OpenAI

Je OpenAI nadhodnocená? Investoři začínají pochybovat

Někteří investoři začínají pochybovat o vysokém ocenění americké společnosti OpenAI, které podle nich dosahuje až 852 miliard dolarů (17,6 bilionu korun). Uvedl to deník Financial Times s odvoláním na nejmenované zdroje z řad finančních podporovatelů firmy. Kritici upozorňují, že společnost se stále více zaměřuje na firemní zákazníky, kde ale čelí rostoucí konkurenci ze strany firem Anthropic a Google.

Přečíst článek

VYŠEL JARNÍ NEWSTREAM CLUB 

Soukromí je nový luxus. A možná i nejcennější dovednost dneška.

Jarní vydání magazínu Newstream CLUB se zaměřuje na téma, které dnes řeší miliardáři i běžní lidé – jak si uchovat vlastní prostor v době, kdy jsme neustále online. Soukromé kluby, tiché byty, digitální detox i život na očích veřejnosti.

V novém čísle přinášíme rozhovory s Vendulou Pizingerovou, youtuberem Tarym nebo zakladatelem Smarty.cz Petrem Syrůčkem. Nechybí inspirace ze světa byznysu, stylu ani cestování – a také konkrétní tipy, jak si soukromí znovu vzít zpět.

Jedenácté vydání čtvrtletníku Newstream CLUB je v prodeji na stáncích i v online distribuci Send, kde je možné titul také předplatit. Digitální verzi magazínu lze zakoupit přímo na webu newstream.cz.

Na další číslo magazínu se můžete těšit v červnu.

Související

Umělá inteligence ve válce: Vědci chtějí jasná pravidla, ale těžko je dostanou

Umělá inteligence ve válce: Vědci chtějí jasná pravidla, ale těžko je dostanou

Přečíst článek
Umělá inteligence potřebuje datová centra, ale lidé je nechtějí. Naštěstí se dají postavit ve vesmíru

Umělá inteligence potřebuje datová centra, ale lidé je nechtějí. Naštěstí se dají postavit ve vesmíru

Přečíst článek

Dalibor Martínek: Babišovo podkuřování důchodcům vede zemi do záhuby

Dalibor Martínek: Babišovo podkuřování důchodcům vede zemi do záhuby
iStock
Dalibor Martínek

Vláda chce podle svého předvolebního slibu opět zrychlit zvyšování důchodů. Výdaje na penze, které tvoří třetinu všech výdajů státu, přesahují sedm set miliard korun. Jsou to projedené peníze, ne investice do budoucnosti.

Babiš umanutě uplácí dva a půl milionu penzistů. Zejména oni, možná s nostalgickou vzpomínkou na minulé časy, kdy se za bolševika lépe žilo, ho drží u moci. Babiš si tento fakt dobře uvědomuje. Využívá každou příležitost, aby své seniory potěšil. Ostatně i on sám prožil šťastné mládí za minulého režimu.

Demografie jako varování

V Česku se v loňském roce narodilo méně než osmdesát tisíc nových Čechů. Je to nejnižší číslo za víc než dvě stě let sběru statistických dat. Vláda nemá žádnou prorodinnou politiku. Naopak přidává starým. Zajímá tento fakt naše penzisty?

Ministr Juchelka poslal do připomínkového řízení návrh, podle kterého se změní výpočet penzí. Důchody se mají vždy v lednu zvyšovat o inflaci a polovinu růstu reálných mezd, nyní rostou o inflaci a třetinu růstu mezd. Jinými slovy, opět zrychlení růstu penzí.

Chystá se změna spoření na penzi. V hledáčku jsou vysoké poplatky

Jak zreformovat třetí pilíř penzijního systému, aby se stal pro mladé Čechy atraktivnější? Vláda chystá reformu, v červnu ji hodlá představit. Také opozice je pro reformu. Panuje shoda, že by se měla zvýšit výnosnost penzijního spoření a prodloužit by se měla doba spoření. Výše úložek účastníků nejsou tak zásadní, tvrdí Filip Pertold z institutu IDEA při CERGE-EI, který s kolegou Lukášem Nádvorníkem zanalyzoval stávající stav penzijního připojištění.

Přečíst článek

Bonusy pro nejstarší

Juchelka chce také vyplácet bonusy lidem starším osmdesáti let. Zcela racionálně řečeno, lidem nad osmdesát let se nezvyšují potřeby. Naopak se snižují. Bydlení mají, hypotéku nesplácejí. Jedí méně, oblečení více méně nekupují. Neinvestují do vzdělání, už tolik necestují. Osmdesátníci často dávají svým vnoučatům k narozeninám nebo na Vánoce tisíce korun, které dostávají od daňových poplatníků a nemají pro ně využití.

Současná vláda hospodaří s obřím, nezákonným schodkem. Politikou rozdávání úplatků starým se schodek bude ještě zvyšovat. Méně pracujících bude platit více na důchody, a k tomu ještě na splátky dluhů státu, které vláda zasekává.

Juchelkova teze, že vyššími penzemi zajistí důchodcům jistotu důstojného života i v době inflace, je nesmyslná. Naopak, rozdáváním peněz nekrytých vytvářením hodnoty stát podporuje růst inflace.

Změna v penzijku. Mladí by automaticky šli víc do rizika

Mladí by už neměli u spoření na důchod na výběr. Nový návrh Asociace penzijních společností počítá s povinným investováním do dynamičtějších fondů, které mohou přinést vyšší zisky – ale i větší riziko.

Přečíst článek

Solidarita v praxi

Možná, kdyby o svých penzích rozhodovali penzisté, a ne populistická vláda, řada starších by v solidaritě s mladými příplatky ani nežádala. Toto je možná moc idealistická představa. Česká zkušenost bohužel říká, že solidarita se krčí v koutku. Každý, kdo může, rád bere zadarmo.

V debatě o penzích v podání vlády vůbec nezaznívá, že lidé, kteří aktuálně míří do penze, měli pětatřicet let na to, aby se sami na stáří zajistili. Mohli si odkládat, spořit. Máme tady třetí penzijní pilíř se státní dotací a daňovým zvýhodněním. Účastní se ho 3,9 milionu lidí - těch zodpovědných. Není jediný důvod, proč by náklady na život starší generace měl na sebe brát výhradně stát.

Česko nemá dokončenou dálniční síť, do budoucna zcela jistě poroste spotřeba energie. Je třeba stavět zdroje, a ty jsou drahé. To všechno jsou investice, jejichž přínos ocení nové generace. Místo investic do budoucnosti však vláda investuje do minulosti. Ještě přesněji, investuje do svého volebního výsledku. Je to zjištná a pro Česko sebezáhubná politika.

Další komentáře (ne)korektního Dalibora Martínka

Americký prezident Donald Trump

Kdo se má za Trumpa dobře? Zlodějíčci v kravatách a oblecích

Stíhání hospodářské kriminality v USA bylo loni na nejnižší úrovni za čtyřicet let. Takzvaná kriminalita bílých límečků má nyní vcelku umetenou cestu, píší Financial Times. Elitní právníci přicházejí o práci.

Přečíst článek

Související

Nejlepší důchodový systém na světě má Nizozemsko. Česko by mohlo být dvacáté

Dalibor Martínek: Čeští důchodci si žijí jako v ráji. Babiš jim podkuřuje, brání rozvoji země

Přečíst článek

Karel Pučelík: Inspiraci k migraci hledejme raději ve Španělsku než v USA. Ekonomika nám poděkuje

Pedro Sánchez
ČTK
Karel Pučelík

Amerika pořádá hony na migranty, Británie se snaží zastavit loďky uprchlíků a odrazovat lidi od příchodu přijetím drakonického migračního systému. Naproti tomu španělská vláda socialisty Pedra Sáncheze zlegalizuje pobyt statisícům lidí bez dokumentů. A zdá se, že jeho počínání má větší logiku než první dva příklady. Nedělá to totiž jen z dobroty srdce.

Španělská vláda jde opět proti proudu. O socialistickém premiérovi Pedru Sánchezovi se mluví v souvislosti s jeho odporem vůči zahraniční politice Donalda Trumpa a opozici vůči americko-izraelské invazi v Íránu. Americký prezident si Španělsko dokonce vybral jako jeden z hlavních terčů svých mstivých výlevů.

Sánchez však dokáže postupovat netradičně i v domácí politice. Zatímco za oceánem i v evropských zemích – včetně Velké Británie nebo Dánska – se hledají způsoby, jak jak omezit příliv imigrantů, španělská vláda nastavuje přívětivou tvář. Přistěhovalcům, kteří v zemi žijí bez potřebných dokumentů nabízí snadný způsob, jak svůj pobyt zrealizovat. Jak napsal Sánchez v „osobním“ dopise občanům „uznat realitu, že téměř půl milionu lidí již tvoří součást našeho každodenního života“.

Péter Magyar

Karel Pučelík: Bude mít Brusel od Maďarska konečně klid? Počkejme si

Proevropský liberální tábor si díky volbám v Maďarsku mohl užít trošku těch dobrých zpráv. Vláda se v Budapešti změní, ale léta propagandou živená protiukrajinská nálada se tak rychle změnit nemusí. Kde má proevropský sentiment Pétera Magyara své limity?

Přečíst článek

Vláda tímto způsobem nabídne roční obnovitelné povolení k pobytu lidem, kteří ve Španělsku prokazatelně žijí alespoň pět měsíců a mohou doložit čistý trestní rejstřík. Stačí zažádat do konce června. Vláda mluví o zhruba půl milionu lidí, think-tank Funcas o více než 800 tisíc, konzervativní opoziční lidovci – spíše straší – více než milionem. Ačkoli je to výbušné téma, ve Španělsku nejsou podobné amnestie není ničím zcela novým, v minulosti k nim přistupovaly pravicové i levicové kabinety.

Pedro Sánchez k tomuto rozhodnutí nemá nelogické pohnutky. Z části argumentuje spravedlností, ale k tomu zmiňuje i ekonomickou nutnost. Migrace je obvykle podávána jako negativní téma, čímž se v Evropě záměrně či nezáměrně upozaďuje fakt, že bez určitého přílivu přistěhovalců se naše ekonomiky a sociální služby neobejdou.

Win-win situace

I španělská společnost stárne, což bude zesilovat tlak na důchodový a sociální systém, proto je potřeba, aby se imigranti, kteří už v zemi žijí, plně zapojili do společnosti. Nyní je pro ně náročné například získat důstojnou práci, přičemž rozsáhlá šedá ekonomika není výhodná ani pro stát, který přichází o peníze do rozpočtu. „Přinese to prospěch mnoha lidem, umožní jim to najít si práci a dosáhnout lepší kvality života,“ chválí opatření pro BBC původem bolivijský grafický designér Ricardo. „A pro španělský stát to znamená více peněz a pro zaměstnavatele zase větší počet legálně dostupných pracovníků,“ potvrzuje.

Česká média samozřejmě raději kvůli větší čtenosti referují rovnou o migrantech z Afriky, podle analýz však většina lidí bez dokumentů ve Španělsku pochází z Latinské Ameriky, takže rozumí jazyku a relativně podobné kultuře.

Donald Trump

Karel Pučelík: Opravdu máme dělat, co Trumpovi na očích uvidíme?

I když je „teflonový“ šéf NATO Mark Rutte teflonový jako obvykle, je aliance v krizi. Je do značné míry vydána na milost americkému prezidentu Donaldu Trumpovi. Otázka tedy zní, zda se má Evropa podvolit jeho novému stylu nebo si od něj udržovat odstup? Cena za udržení přízně USA však může být dosti vysoká – klidně i od vazalství po účast na válečných zločinech.

Přečíst článek

Krok může být inspirací i pro další evropské země, které čelí populačnímu poklesu mnohdy ve větší míře než stále ještě poměrně konzervativní Španělsko. K vcelku radikálnímu kroku přistoupili třeba v Řecku, kde finančně motivují lidi, aby se usadili i na venkově. Země totiž čelí odlivu zejména mladých lidí, což by v budoucnu mohlo vyústit k obrovským ekonomickým a sociálním potížím a téměř vylidnění venkovských regionů.

Vyloženě se nabízí také srovnání s Španělska a latinskoamerických imigrantů s Českem a uprchlíky z Ukrajiny, jejichž integrace do společnosti nabízí – navzdory protiukrajinským náladám – velký ekonomický potenciál.

Související

Doporučujeme