Tragická data z OpenAI. ChatGPT zachytil milion sebevražedných konverzací
OpenAI přiznává, že milion lidí svěřil chatbotu úmysl spáchat sebevraždu. Firma posiluje ochranu, přidává linky pomoci a spolupracuje s odborníky. Psychologové mluví o nové výzvě digitální éry.
Přibližně milion uživatelů chatbotu ChatGPT se v konverzacích s umělou inteligencí svěřilo se sebevražednými myšlenkami. S odkazem na data společnosti OpenAI to napsal francouzský deník Le Figaro.
Podle OpenAI se jedná o více než jedno procento z celkového počtu uživatelů ChatGPT. Aplikaci podle firmy každý týden používá kolem 800 milionů lidí, přičemž přibližně 0,07 procenta z nich vykazuje známky duševních onemocnění, například psychotické či manické epizody typické pro bipolární poruchu.
Tragický případ z Kalifornie znovu otevřel debatu
Otázka, jak bezpečně využívat umělou inteligenci, a kdo by měl nést odpovědnost za její chyby, se znovu dostala do centra veřejné debaty letos na jaře. V dubnu se v Kalifornii zabil šestnáctiletý chlapec poté, co mu ChatGPT údajně poradil, jak spáchat sebevraždu.
Společnost OpenAI zveřejnila první rozsáhlou studii, která detailně ukazuje, jak lidé po celém světě využívají jazykový model ChatGPT. Výzkum analyzoval více než 1,5 milionu konverzací uživatelů mezi květnem 2024 a červnem 2025 a nabízí dosud nejucelenější obrázek o reálném využívání nástroje.
OpenAI odhalila, jak lidé skutečně používají ChatGPT
Zprávy z firem
Tento případ vyvolal celosvětovou diskuzi o etice a regulaci AI, zejména o tom, jak mají podobné systémy reagovat na zranitelné uživatele.
OpenAI zpřísňuje pravidla a spolupracuje s odborníky
Po incidentu OpenAI zpřísnila zásady používání svých služeb a zavedla nové bezpečnostní prvky. ChatGPT nyní nabízí rodičovskou kontrolu, odkazy na linky důvěry a krizové služby pro uživatele, kteří vyhledávají informace o sebevraždě.
Společnost také uvedla, že spolupracuje s více než 170 odborníky na duševní zdraví, kteří pomáhají rozpoznávat rizikové konverzace a omezovat výskyt problematických odpovědí.
Podle expertů představují podobné případy varování před přílišnou důvěrou v digitální asistenty. Zároveň ale ukazují, že umělá inteligence může být při správném nastavení užitečným nástrojem podpory, například pro včasné rozpoznání duševních problémů a nasměrování uživatelů k odborné pomoci.
Nejhodnotnější startup světa OpenAI se pokouší získat uživatele v méně vyvinutých zemích. Již v 90 státech nabízí předplatné ChatGPT Go, které někde vyjde na méně než pět dolarů za rok. Česko na tomto seznamu chybí. Naopak třeba Indové dostanou roční předplatné zcela zdarma.
OpenAI nabízí chudším zemím předplatné ChatuGPT téměř zdarma. Češi mají smůlu
Zprávy z firem
PODZIMNÍ NEWSTREAM CLUB PRÁVĚ VYCHÁZÍ
Hlavním tématem podzimního čísla magazínu Newstream Club je Sázka na Česko. Česko je totiž země s ohromným potenciálem. To je jedna ze spojovacích myšlenek vlivných českých podnikatelů. A ten potenciál je zejména v lidech. Jak ale tento potenciál vzít a přetočit jej ve skutečnou hodnotu, na které lze následně stavět růst? Právě o těchto otázkách jsme mluvili s několika výraznými figurami českého, slovenského, ale i světového byznysu.
Velmi aktivní, a přitom neotřelý způsob ukazuje galeristka Olga Trčková, která v centru Prahy vybudovala úspěšnou komerční galerii DSC Gallery. O tom, jak může Česko, či potažmo Česko a Slovensko uspět na globální scéně, pak vědí své miliardáři Vlastislav Bříza a Dalibor Cicman. První dokázal tradiční značku Koh-i-noor dostat do celého světa, druhý se svým e-commerce projektem GymBeam svět postupně dobývá.
Kromě rozhovorů s klíčovými osobnostmi trhu se v magazínu dozvíte také prognózu vývoje na pražské burze, proč se v Kuchyni na Pražském hradě nesmaží smažák nebo jak to vlastně mají Češi se svými chalupami.
Deváté vydání čtvrtletníku Newstream CLUB je v prodeji na stáncích i v online distribuci Send, kde je možné titul také předplatit. Digitální verzi magazínu lze zakoupit přímo na webu newstream.cz.
Na další číslo se můžete těšit již v prosinci.