Šéf OpenAI Sam Altman se v rozhovoru pro web Politico vymezil vůči opatrnějšímu přístupu konkurenční Anthropic k regulaci umělé inteligence. Připustil, že AI přinese i zneužití, podvody nebo hackerské útoky, podle něj ale její přínosy převáží a technologie by měla zůstat široce dostupná veřejnosti.
Data jsou nová ropa a umělá inteligence změní svět víc než železnice, elektřina a kolo dohromady. Alespoň s takovými očekáváními pracují AI firmy, jejich zakladatelé, investoři, politici a v podstatě již skoro každý, kdo o vývoji světa alespoň občas přemýšlí. AI firmy se tak skutečně již chovají jako ropní giganti, alespoň v tom, že ve snaze utéct ostatním ignorují následky. A když dojde k průšvihu, pokrčí rameny a řeknou: Sorry. A to je docela problém.
Donald Trump uzavřel s předními hráči světa umělé inteligence dobrovolnou dohodu, která má přinést přísnější kontroly rychle se rozvíjejících AI systémů. Prezident přitom odmítá brzdit technologický vývoj a věří především v samoregulaci firem. Dohoda přichází právě ve chvíli, kdy část samotného odvětví stále hlasitěji varuje, že se pokročilé modely mohou vymknout kontrole.
Kde je hranice mezi informováním a snahou ovlivnit druhého? Co se mění s AI, personalizací a možností generovat obsah v obrovském měřítku? A jaké nástroje má obyčejný člověk ve sporu s organizovanými strukturami, které mu mnohdy chtějí uškodit? Moderátorka Sara Polak si do epizody podcastové série Sedm hříchů dobré společnosti věnované zneužívání informací a mocenské manipulaci pozvala lékaře Tomáše Šebka a odborníka na kybernetickou bezpečnost Milana Půlkrábka alias Sodomáka. Podcast najdete na portálu YouTube a newstream.cz.
Anthropic míří na burzu s ambicí získat ocenění přes dva biliony dolarů. Prospekt ale zároveň odhaluje extrémní náklady, hluboké ztráty a bezpečnostní varování, která u technologické firmy působí nezvykle ostře. Společnost přiznává, že její nejpokročilejší modely se mohou snažit bránit vypnutí, manipulovat s informacemi nebo vykazovat chování připomínající vydírání.
AMD dál posiluje svou pozici v boji o umělou inteligenci. Výrobce čipů kupuje startup World Labs za 8,2 miliardy dolarů a spolu s ním získá špičkový výzkumný tým, pokročilé AI modely i jejich zakladatelku Fei-Fei Li. Akvizice má AMD pomoct zrychlit vývoj vlastního hardwaru i softwaru a lépe konkurovat Nvidii.
AI agenti se stále častěji dostávají mimo prostředí, ve kterém mají být bezpečně testováni. Nvidia proto přichází s novým systémem, který má jejich pohyb v reálném čase hlídat, omezovat přístup k citlivým částem systému a podezřelé agenty během milisekund izolovat. Firma tvrdí, že podobná technologie mohla zabránit i nedávnému incidentu kolem Hugging Face.
SpaceX má za sebou zásadní milník. Její obří Starship se při čtrnáctém testovacím letu poprvé dostala na oběžnou dráhu. Právě na této raketě firma staví další rozvoj Starlinku, návrat astronautů na Měsíc i budoucí plány s umělou inteligencí ve vesmíru. K úspěšnému letu pogratuloval SpaceX také šéf NASA Jared Isaacman. Vstup na oběžnou dráhu podle něj proběhl bezpečně a spořádaně.
SpaceX chystá dosud nejambicióznější test Starshipu. Při čtrnáctém letu se chce obří raketa poprvé dostat na oběžnou dráhu a zároveň vynést 26 nových satelitů Starlink V3. Úspěch je důležitý pro další rozvoj satelitního internetu, plány NASA i budoucí projekty firmy s umělou inteligencí ve vesmíru.
Americká společnost OpenAI pozastavila trénování svých nejnovějších modelů umělé inteligence (AI). Reaguje tak na několik případů, kdy se její agenti AI při práci na internetu chovali jinak, než od nich uživatelé požadovali, uvedla agentura AP.
Americké akcie během týdne navázaly na předchozí růst, z nových maxim ale rychle ustoupily. Investory znervózňuje návrat výnosu desetiletých amerických dluhopisů nad 5,10 procenta, silná ekonomická data i možné omezení vývozu nafty z USA. Do centra pozornosti se zároveň dostávají vysoké valuace technologických firem před očekávaným listopadovým IPO společnosti Anthropic.
