Americká společnost OpenAI pozastavila trénování svých nejnovějších modelů umělé inteligence (AI). Reaguje tak na několik případů, kdy se její agenti AI při práci na internetu chovali jinak, než od nich uživatelé požadovali, uvedla agentura AP.
Nezruší permanentku. Nezmění banku. Neprojde pojistky ani předplatná, i když na nich prodělává. Právě takový zákazník byl pro řadu firem zlatý důl – jenže nový AI agent Muse od Mety může lidskou pohodlnost obejít a začít jednat za něj. Wall Street už začala přeceňovat fitka, finanční firmy i média. V Evropě může podobnou revoluci brzdit regulace.
Nvidia dál vydělává na boomu umělé inteligence, investoři ale začínají pochybovat, jak dlouho jí mimořádný růst vydrží. Její akcie se vzhledem k očekávanému zisku obchodují poblíž nejnižšího ocenění za více než deset let, přestože firma předpovídá další prudký růst tržeb. Obavy vzbuzují zejména tlak na marže a čipy, které si začínají vyvíjet její největší zákazníci.
Češi se nástupu umělé inteligence v práci příliš nebojí. Více než polovina zaměstnanců a podnikatelů nevěří, že by jejich profesi mohl nahradit stroj nebo AI, na technologické změny se ale cíleně vzdělává jen malá část lidí.
Americká centrální banka zvýšila úroky navzdory tlaku Donalda Trumpa a akciové trhy po počátečním poklesu zamířily vzhůru. Index S&P 500 se vrátil k hranici 7700 bodů. Výrobci čipů však zažili opačný vývoj: obavy ze zpomalení vývoje umělé inteligence poslaly jejich akcie prudce dolů.
Umělá inteligence Googlu měla při bezpečnostním testu vyhledávat informace. Místo toho uhodla heslo skutečné firmy a pronikla do jejího systému. Gemini se během květnového testování dostal celkem do systémů tří společností, informovala agentura Bloomberg. Incidenty znovu otevřely debatu o tom, jak zajistit, aby autonomní AI agenti nepřekračovali hranice svých úkolů.
Premiér Mark Carney v Evropském parlamentu přivítal návrh na přidružené členství v EU a vyzval k užšímu spojenectví. Donald Trump mezitím pohrozil Bruselu dalšími cly, pokud nové partnerství vyhodnotí jako krok proti Spojeným státům.
Zatajování informací, pokusy obcházet omezení či vymyšlená data. OpenAI zveřejnila dosud nepopsané případy, kdy se její modely chovaly jinak, než jejich tvůrci zamýšleli. Firma proto zavádí nový systém pro sledování podobných incidentů, a to v době, kdy i technologické špičky stále hlasitěji varují před rostoucími a obtížně předvídatelnými riziky umělé inteligence.
Vrcholí éra venture kapitálového financování startupů. Po dvou dekádách soukromý kapitál dokáže vytvořit bilionovou firmu ještě před jejím vstupem na burzu. Vedle SpaceX se to daří také AI firmám, jejichž budoucnost je přitom nyní nejistá. Přesto odborníci poukazují na to, že nemusí jít o růst iracionální bubliny.
Investoři chtějí do OpenAI vložit další peníze. Tvůrce ChatGPT jedná o financování, které by jeho hodnotu vyšvihlo nad 1,2 bilionu dolarů. Firma by díky tomu mohla odložit vstup na burzu a získat prostředky na další akvizice.
Největší rivalové v umělé inteligenci hledají společnou řeč. OpenAI jedná s Anthropicem a Googlem o bezpečnosti AI v době, kdy bývalí výzkumníci varují před jejími krajními riziky. Donald Trump ale přísnější regulaci odmítá.
