ChatGPT navádí k sebevraždám a podněcuje paranoiu, tvrdí žaloba osmi států USA na OpenAI
Nejméně osm amerických států tento týden podalo žaloby na technologickou společnost OpenAI s tím, že její populární chatbot ChatGPT porušil státní zákony o ochraně spotřebitelů. Toho se podle nich dopustil tím, že způsobuje újmu dětem a klame dospělé, informovala agentura AP.
ChatGPT poskytuje nebezpečné lékařské rady, podněcuje paranoiu a navádí lidi k sebevraždě nebo k ublížení jiným osobám či k jejich zabití, uvádí se mimo jiné v žalobách.
„OpenAI ubližuje dětem a lže obyvatelům Iowy,“ uvedla ve středečním prohlášení nejvyšší státní zástupkyně Iowy Brenna Birdová. Dalšími státy, které ve středu podaly samostatné žaloby, jsou Arizona, Arkansas, Idaho, Kansas, Montana, Nebraska a Západní Virginie.
Šéf OpenAI Sam Altman se v rozhovoru pro web Politico vymezil vůči opatrnějšímu přístupu konkurenční Anthropic k regulaci umělé inteligence. Připustil, že AI přinese i zneužití, podvody nebo hackerské útoky, podle něj ale její přínosy převáží a technologie by měla zůstat široce dostupná veřejnosti.
Altman otevřeně o AI: Hackerské útoky i podvody budou pokračovat, přínosy ale převáží
Zprávy z firem
Podle žalob chatboty předstírají, že jsou vstřícné a soucitné, zatímco ve skutečnosti zneužívají zranitelné osoby a náctileté, kteří jsou první generací vyrůstající s umělou inteligencí (AI).
Do incidentů se vložila i vyšetřovací komise
Státy rovněž obvinily společnost OpenAI z toho, že dala vzniknout neovladatelným modelům AI, potažmo „kyberhackerským agentům“, jak je nazvala jedna z žalob.
Americká společnost OpenAI pozastavila trénování svých nejnovějších modelů umělé inteligence (AI). Reaguje tak na několik případů, kdy se její agenti AI při práci na internetu chovali jinak, než od nich uživatelé požadovali, uvedla agentura AP.
Šmejdí, kde nemá. OpenAI kvůli chování agentů pozastavila trénování nových modelů AI
Zprávy z firem
OpenAI a konkurenční Anthropic v minulých dnech a měsících informovaly o případech, kdy se jejich modely AI nabouraly do webových stránek či externích systémů a při testování se chovaly klamavě či agresivně. Incidenty se již zabývá Federální obchodní komise (FTC).
OpenAI v reakci uvedla, že do ChatGPT zabudovala bezpečnostní opatření týkající se dětí a chce v tom pokračovat a modely v tomto ohledu vylepšovat. Dále uvedla, že prověřuje takzvané nesprávně nastavené modely a že nezjistila nic, co by se blížilo incidentu s neovladatelným modelem odhalenému v červenci, kdy se agent AI naboural do systémů konkurenční společnosti.
Data jsou nová ropa a umělá inteligence změní svět víc než železnice, elektřina a kolo dohromady. Alespoň s takovými očekáváními pracují AI firmy, jejich zakladatelé, investoři, politici a v podstatě již skoro každý, kdo o vývoji světa alespoň občas přemýšlí. AI firmy se tak skutečně již chovají jako ropní giganti, alespoň v tom, že ve snaze utéct ostatním ignorují následky. A když dojde k průšvihu, pokrčí rameny a řeknou: Sorry. A to je docela problém.
Stanislav Šulc: AI firmy už připomínají ropné giganty. Kašlou na bezpečnost a pak se suše omlouvají
Názory
VYŠEL PODZIMNÍ NEWSTREAM CLUB
Lepší život jako téma čísla
Změna k lepšímu je jedním z témat aktuálního vydání magazínu Newstream CLUB. Šířeji pak je tématem longevity, nebo obecněji lepší život. A to nejen každého konkrétního člověka, ale také společnosti nebo firem.
Na obálce magazínu je hvězdný šéfkuchař Radek Kašpárek. Radek Kašpárek je nový člověk, alespoň to říká v titulním rozhovoru. „Byl jsem prudší, výbušnější, taková neřízená střela. Celkově jsem se časem zklidnil, dostal se do větší pohody a tím se ve mně uklidnilo i ego,“ říká.
V novém magazínu tak čtenáři najdou například rozhovor s Pavlem Loudou. Jeho jméno patří k synonymům tuzemského vozoparku, protože je jedním z nejúspěšnějších prodejců aut u nás. Ale zároveň koupil také sklárny, v nichž pracovali jeho rodiče, investoval do nich stamiliony a dnes již může zhodnotit, jak se tato investice vyplatila.
Na rady rodičů vzpomíná také Barbara Paldus, dcera českých emigrantů, která se narodila v Kanadě, uspěla v Silicon Valley a dnes vyrábí kosmetiku, jež vychází z přírodních tradic, ale je podpořená high-endovou vědou. „Na magii sice nevěřím, ale umím věřit věcem, které zatím neumíme vysvětlit,“ říká vědkyně.
A o to, jak razantně změnit život po šedesátce, se podělí Hana Janata, lékařka, která v 55 začala profesionálně tančit a po šedesátce se stala modelkou. A spolupracuje s nejprestižnějšími značkami světa.
Třinácté vydání čtvrtletníku Newstream CLUB je v prodeji, distribuci zajišťuje Send. Digitální verzi magazínu lze zakoupit přímo na newstream.cz.
