Svět čekají další konflikty a cestou ke stabilitě má být podle Vladimira Putina ústup západní hegemonie. Ruský prezident na setkání Valdajského diskuzního klubu zároveň varoval před prudkým technologickým vývojem včetně umělé inteligence, který podle něj může mít katastrofální důsledky.
Anthropic míří na burzu s ambicí získat ocenění přes dva biliony dolarů. Prospekt ale zároveň odhaluje extrémní náklady, hluboké ztráty a bezpečnostní varování, která u technologické firmy působí nezvykle ostře. Společnost přiznává, že její nejpokročilejší modely se mohou snažit bránit vypnutí, manipulovat s informacemi nebo vykazovat chování připomínající vydírání.
AMD dál posiluje svou pozici v boji o umělou inteligenci. Výrobce čipů kupuje startup World Labs za 8,2 miliardy dolarů a spolu s ním získá špičkový výzkumný tým, pokročilé AI modely i jejich zakladatelku Fei-Fei Li. Akvizice má AMD pomoct zrychlit vývoj vlastního hardwaru i softwaru a lépe konkurovat Nvidii.
AI agenti se stále častěji dostávají mimo prostředí, ve kterém mají být bezpečně testováni. Nvidia proto přichází s novým systémem, který má jejich pohyb v reálném čase hlídat, omezovat přístup k citlivým částem systému a podezřelé agenty během milisekund izolovat. Firma tvrdí, že podobná technologie mohla zabránit i nedávnému incidentu kolem Hugging Face.
SpaceX má za sebou zásadní milník. Její obří Starship se při čtrnáctém testovacím letu poprvé dostala na oběžnou dráhu. Právě na této raketě firma staví další rozvoj Starlinku, návrat astronautů na Měsíc i budoucí plány s umělou inteligencí ve vesmíru. K úspěšnému letu pogratuloval SpaceX také šéf NASA Jared Isaacman. Vstup na oběžnou dráhu podle něj proběhl bezpečně a spořádaně.
SpaceX chystá dosud nejambicióznější test Starshipu. Při čtrnáctém letu se chce obří raketa poprvé dostat na oběžnou dráhu a zároveň vynést 26 nových satelitů Starlink V3. Úspěch je důležitý pro další rozvoj satelitního internetu, plány NASA i budoucí projekty firmy s umělou inteligencí ve vesmíru.
Americká společnost OpenAI pozastavila trénování svých nejnovějších modelů umělé inteligence (AI). Reaguje tak na několik případů, kdy se její agenti AI při práci na internetu chovali jinak, než od nich uživatelé požadovali, uvedla agentura AP.
Americké akcie během týdne navázaly na předchozí růst, z nových maxim ale rychle ustoupily. Investory znervózňuje návrat výnosu desetiletých amerických dluhopisů nad 5,10 procenta, silná ekonomická data i možné omezení vývozu nafty z USA. Do centra pozornosti se zároveň dostávají vysoké valuace technologických firem před očekávaným listopadovým IPO společnosti Anthropic.
Umělá inteligence (AI) by mohla způsobit smrt miliardy lidí, řekl americké stanici NBC Bill Gates. Spoluzakladatel Microsoftu se proto přimlouvá za právní regulaci této technologie.
Donald Trump se tento týden pokusil znovu ukázat sílu Spojených států na světové scéně – od projevu v OSN až po summit se Si Ťin-pchingem. Podle agentury Reuters ale jeho diplomatická ofenziva zároveň odhalila limity amerického prezidenta: válka s Íránem se vleče, vztahy se spojenci se zhoršují a Čína vystupuje sebevědoměji. Trump navíc čelí rostoucímu odporu zahraničních lídrů právě ve chvíli, kdy jeho republikány čekají listopadové volby do Kongresu.
Agent umělé inteligence od OpenAI v červnu neoprávněně pronikl na australský vládní portál se zdravotními statistikami a dostal se k veřejným i neveřejným souborům. Podle premiéra Anthonyho Albaneseho nic nenasvědčuje tomu, že by získal přístup k osobním údajům pacientů, incident ale vláda označuje za nepřijatelný. Pravděpodobně jde o první známý případ, kdy AI agent pronikl na vládní web.
OpenAI opustil člen týmu pro bezpečnost. Varoval, přední AI firmy nepodnikají dostatečná opatření k minimalizaci rizik souvisejících s umělou inteligencí. David Robinson se tak připojil k rostoucímu počtu pracovníků v odvětví, kteří poukazují na hrozby spojené s AI, píše agentura Bloomberg.
