Tragická data z OpenAI. ChatGPT zachytil milion sebevražedných konverzací
OpenAI přiznává, že milion lidí svěřil chatbotu úmysl spáchat sebevraždu. Firma posiluje ochranu, přidává linky pomoci a spolupracuje s odborníky. Psychologové mluví o nové výzvě digitální éry.
Přibližně milion uživatelů chatbotu ChatGPT se v konverzacích s umělou inteligencí svěřilo se sebevražednými myšlenkami. S odkazem na data společnosti OpenAI to napsal francouzský deník Le Figaro.
Podle OpenAI se jedná o více než jedno procento z celkového počtu uživatelů ChatGPT. Aplikaci podle firmy každý týden používá kolem 800 milionů lidí, přičemž přibližně 0,07 procenta z nich vykazuje známky duševních onemocnění, například psychotické či manické epizody typické pro bipolární poruchu.
Tragický případ z Kalifornie znovu otevřel debatu
Otázka, jak bezpečně využívat umělou inteligenci, a kdo by měl nést odpovědnost za její chyby, se znovu dostala do centra veřejné debaty letos na jaře. V dubnu se v Kalifornii zabil šestnáctiletý chlapec poté, co mu ChatGPT údajně poradil, jak spáchat sebevraždu.
Společnost OpenAI zveřejnila první rozsáhlou studii, která detailně ukazuje, jak lidé po celém světě využívají jazykový model ChatGPT. Výzkum analyzoval více než 1,5 milionu konverzací uživatelů mezi květnem 2024 a červnem 2025 a nabízí dosud nejucelenější obrázek o reálném využívání nástroje.
OpenAI odhalila, jak lidé skutečně používají ChatGPT
Zprávy z firem
Tento případ vyvolal celosvětovou diskuzi o etice a regulaci AI, zejména o tom, jak mají podobné systémy reagovat na zranitelné uživatele.
OpenAI zpřísňuje pravidla a spolupracuje s odborníky
Po incidentu OpenAI zpřísnila zásady používání svých služeb a zavedla nové bezpečnostní prvky. ChatGPT nyní nabízí rodičovskou kontrolu, odkazy na linky důvěry a krizové služby pro uživatele, kteří vyhledávají informace o sebevraždě.
Společnost také uvedla, že spolupracuje s více než 170 odborníky na duševní zdraví, kteří pomáhají rozpoznávat rizikové konverzace a omezovat výskyt problematických odpovědí.
Podle expertů představují podobné případy varování před přílišnou důvěrou v digitální asistenty. Zároveň ale ukazují, že umělá inteligence může být při správném nastavení užitečným nástrojem podpory, například pro včasné rozpoznání duševních problémů a nasměrování uživatelů k odborné pomoci.
Nejhodnotnější startup světa OpenAI se pokouší získat uživatele v méně vyvinutých zemích. Již v 90 státech nabízí předplatné ChatGPT Go, které někde vyjde na méně než pět dolarů za rok. Česko na tomto seznamu chybí. Naopak třeba Indové dostanou roční předplatné zcela zdarma.
OpenAI nabízí chudším zemím předplatné ChatuGPT téměř zdarma. Češi mají smůlu
Zprávy z firem
VYŠEL JARNÍ NEWSTREAM CLUB
Soukromí je nový luxus. A možná i nejcennější dovednost dneška.
Jarní vydání magazínu Newstream CLUB se zaměřuje na téma, které dnes řeší miliardáři i běžní lidé – jak si uchovat vlastní prostor v době, kdy jsme neustále online. Soukromé kluby, tiché byty, digitální detox i život na očích veřejnosti.
V novém čísle přinášíme rozhovory s Vendulou Pizingerovou, youtuberem Tarym nebo zakladatelem Smarty.cz Petrem Syrůčkem. Nechybí inspirace ze světa byznysu, stylu ani cestování – a také konkrétní tipy, jak si soukromí znovu vzít zpět.
Jedenácté vydání čtvrtletníku Newstream CLUB je v prodeji na stáncích i v online distribuci Send, kde je možné titul také předplatit. Digitální verzi magazínu lze zakoupit přímo na webu newstream.cz.
Na další číslo magazínu se můžete těšit v červnu.