Americká AI přebírá čínskou propagandu. Trumpa kritizuje, na Si Ťin-pchinga si netroufne
Propaganda autoritářských režimů si našla nečekanou cestu na Západ: přes tréninková data umělé inteligence. Chatboti amerických technologických gigantů mohou podle nových výzkumů u citlivých témat používat dvojí metr a při kritice čínského vedení raději brzdit.
Americké modely umělé inteligence mohou nevědomky přebírat cenzurní mechanismy i propagandu autoritářských států. ChatGPT, Claude nebo Gemini podle nových výzkumů při odpovědích na některá citlivá politická témata reagují podobně jako chatboty podléhající čínské cenzuře. Na problém upozornil deník The Wall Street Journal (WSJ).
Pokud se někdo v Číně zeptá chatbota na citlivá témata čínské politiky, systém se může odpovědi vyhnout nebo zopakovat oficiální postoje Komunistické strany Číny. Nové studie však podle WSJ ukazují, že podobné chování se může nevědomky objevovat také u amerických modelů umělé inteligence.
Umělá inteligence se stává politickou otázkou první kategorie. OpenAI podle Financial Times jedná s Trumpovou administrativou o tom, že by americká vláda získala pětiprocentní podíl ve společnosti, která stojí za jazykovými modely ChatGPT. Šéf firmy Sam Altman podle deníku navrhuje, aby podobný podíl poskytli i další velcí hráči v umělé inteligenci.
Stát jako akcionář ChatGPT? OpenAI jedná s Trumpem o pěti procentech
Leaders
Technologické společnosti přitom podle výzkumníků zatím neudělaly dost pro to, aby problém odstranily.
Propaganda se dostává do tréninkových dat
Jednou z příčin je samotný způsob trénování velkých jazykových modelů. Ty zpracovávají obrovské množství textů z internetu, mezi nimiž jsou také informace pocházející z médií kontrolovaných autoritářskými režimy.
Výsledný model tak může podle WSJ převzít část jejich způsobu interpretace politických témat, aniž by to jeho tvůrci zamýšleli.
„Jde o nezamýšlené vedlejší účinky trénování,“ uvedl australský profesor práva a člen nezávislé dozorčí rady technologické společnosti Meta Platforms Nicolas Suzor.
Podle něj by společnosti vyvíjející AI mohly problém zmírnit například větší transparentností ohledně toho, odkud informace používané při trénování modelů pocházejí.
Akcie čínských společností prožívají návrat k růstu a opět zajímají velký počet retailových investorů. Potvrdilo to IPO výrobce polovodičů CXMT (ChangXin Memory Technologies), jehož akcie krátce po burzovním startu vystoupaly o více než 500 procent. Navíc čínská vláda mění dosavadní strategii a pokusí se právě přes kapitálový trh napumpovat zejména do AI společností obří státní peníze. Vyplatí se nyní investovat do čínských akcií?
Čínské akcie prožívají silné období. Vládní stimuly mohou ještě víc podpořit růst AI firem
Trhy
Trump ano, Si Ťin-pching ne
Americké technologické firmy tvrdí, že se snaží vytvářet modely poskytující neutrální odpovědi a respektující svobodu projevu. Výsledky některých testů ale ukazují výrazné rozdíly podle toho, o jakou zemi nebo politického představitele jde.
Nezávislá dozorčí rada společnosti Meta v červenci zveřejnila výzkum, podle kterého modely společností OpenAI, Anthropic, Google a Meta kritizovaly represivní vlády s výrazně menší pravděpodobností než vlády svobodnějších zemí.
V jednom z testů model Claude Sonnet 4 společnosti Anthropic bez problémů vytvořil letáky kritizující amerického prezidenta Donalda Trumpa a britského krále Karla III. Když měl totéž udělat v případě čínského prezidenta Si Ťin-pchinga nebo thajského krále Mahá Vatčirálongkóna, požadavek odmítl s odvoláním na bezpečnostní rizika.
Podobně se v některých případech zachovaly modely Gemini 3 Pro od Googlu a Llama 4 Maverick společnosti Meta. Protestní materiály namířené proti čínskému či thajskému představiteli někdy odmítly vytvořit, zatímco stejné požadavky týkající se amerických a britských představitelů splnily.
Lithium není jedinou cestou k ukládání energie. Americký start-up Form Energy sází na železo, vodu, vzduch a obyčejnou rez. Jeho baterie mají dodávat energii až 100 hodin. Investorům se nápad líbí: firma od nich nově nabrala dalších 750 milionů dolarů. Celkem už získala přes dvě miliardy.
Bez Číny a bez lithia. Americký start-up získal miliardy na baterie ze rzi
Zprávy z firem
AI může chránit uživatele až příliš
Podle Suzora mají rozdílné odpovědi dva hlavní důvody. Prvním jsou bezpečnostní mechanismy, které mají chránit uživatele v zemích, jako jsou Čína nebo Thajsko, kde může kritika nejvyšších představitelů státu vést k trestnímu postihu nebo uvěznění.
Druhým problémem je podle něj skutečnost, že vývojáři modelů zatím nevěnovali dostatečnou pozornost tomu, aby modely odpovídaly na obdobné politické otázky konzistentně bez ohledu na konkrétní zemi.
Společnost Anthropic uvedla, že intenzivně pracuje na tom, aby Claude reagoval vyváženě.
OpenAI, která vyvinula ChatGPT, odkázala na svůj zveřejněný přístup, podle něhož mají její modely ve výchozím nastavení zaujímat objektivní stanovisko a „nikdy by se neměly vyhýbat řešení tématu pouze proto, že je citlivé nebo kontroverzní“.
Meta se podle WSJ odmítla vyjádřit a Google na žádost o komentář nereagoval.
Umělá inteligence se rychle mění v nákupního rádce. O tom, kterou značku zákazník objeví a kde nakonec utratí peníze, stále častěji rozhodují odpovědi ChatGPT, Gemini a dalších asistentů. České firmy proto začínají sledovat takzvanou AI viditelnost. Podle průzkumu společnosti Marketing Miner se jí zabývají více než tři čtvrtiny dotázaných a polovina firem, které ji aktivně zlepšují, už zaznamenala konkrétní výsledky.
Nový boj značek: Firmy řeší, jak se dostat do odpovědí umělé inteligence
Zprávy z firem
VYŠEL LETNÍ NEWSTREAM CLUB
Sázky na růst Česka se vyplácejí. Potvrzují to lidé různých oborů a zájmů, s nimiž se můžete potkat při čtení aktuálního vydání magazínu Newstream CLUB. Česko má totiž obří potenciál, který se daří čím dál více využívat. Platí to pro investory, globální i lokální firmy, ale také pro tuzemský realitní trh. Jak se na vlně zájmu svézt, poradí letní vydání magazínu.
Na obálce magazínu jsou sourozenci se Sara a Teo Sandevovi, kteří patří ke generaci, která už nemusí volit mezi původem a zemí, kde vyrostla. Ona jde hereckou cestou, on spojuje fotbal, studium a rodinný byznys. Oba ale dobře vědí, že jejich největší výhodou je právě mix českého zázemí a balkánských kořenů.
Aktuální vydání se věnuje právě sázkám na Česko z mnoha pohledů: z pohledu investorů drobných i institucionálních, ale i z pohledu lidí, kteří se snaží zemi posunout dál. K nim patří například Petr Dvořák, který shání soukromé prostředky na spolufinancování stavby nové pražské filharmonie, nebo investor Marek Dospiva.
Česko se také stává čím dál větším lákadlem pro zahraniční firmy, které zde mají vývojová centra. Důvodů je celá řada, ale klíčové jsou pro globální firmy tři věci: vhodná geografická poloha, bezpečnost, a hlavně silné technické zázemí, díky kterému tu mohou pracovat na nejpokročilejších inovacích.
To potvrzuje například šéf globální technologické společnosti Everpure Charlie Giancarlo, který působil v největších firmách světa, stál u zrodu internetu a nyní se věnuje datovým úložištím. Rozhovor s ním také přináší letní vydání magazínu Newstream CLUB.
A rostoucí zájem nadnárodních firem o možnost působit v Česku potvrzuje také Tomáš Partsch z CTP, který vysvětluje, jak se z Brna stává evropské Silicon Valley.
Dvanácté vydání čtvrtletníku Newstream CLUB je v prodeji, distribuci zajišťuje Send. Digitální verzi magazínu lze zakoupit přímo na newstream.cz.
