Evropský Mistral přichází s novým modelem umělé inteligence, kterým chce zmenšit náskok čínských vývojářů v oblasti otevřené AI. Mistral Large 4 má jeden bilion parametrů a firma ho cílí hlavně na kyberbezpečnost, programování, výrobu a finance. Nejdřív se k němu dostanou vývojáři, experti na kyberbezpečnost a státní instituce.
Data jsou nová ropa a umělá inteligence změní svět víc než železnice, elektřina a kolo dohromady. Alespoň s takovými očekáváními pracují AI firmy, jejich zakladatelé, investoři, politici a v podstatě již skoro každý, kdo o vývoji světa alespoň občas přemýšlí. AI firmy se tak skutečně již chovají jako ropní giganti, alespoň v tom, že ve snaze utéct ostatním ignorují následky. A když dojde k průšvihu, pokrčí rameny a řeknou: Sorry. A to je docela problém.
Donald Trump uzavřel s předními hráči světa umělé inteligence dobrovolnou dohodu, která má přinést přísnější kontroly rychle se rozvíjejících AI systémů. Prezident přitom odmítá brzdit technologický vývoj a věří především v samoregulaci firem. Dohoda přichází právě ve chvíli, kdy část samotného odvětví stále hlasitěji varuje, že se pokročilé modely mohou vymknout kontrole.
Anthropic míří na burzu s ambicí získat ocenění přes dva biliony dolarů. Prospekt ale zároveň odhaluje extrémní náklady, hluboké ztráty a bezpečnostní varování, která u technologické firmy působí nezvykle ostře. Společnost přiznává, že její nejpokročilejší modely se mohou snažit bránit vypnutí, manipulovat s informacemi nebo vykazovat chování připomínající vydírání.
Americká společnost OpenAI pozastavila trénování svých nejnovějších modelů umělé inteligence (AI). Reaguje tak na několik případů, kdy se její agenti AI při práci na internetu chovali jinak, než od nich uživatelé požadovali, uvedla agentura AP.
Agent umělé inteligence od OpenAI v červnu neoprávněně pronikl na australský vládní portál se zdravotními statistikami a dostal se k veřejným i neveřejným souborům. Podle premiéra Anthonyho Albaneseho nic nenasvědčuje tomu, že by získal přístup k osobním údajům pacientů, incident ale vláda označuje za nepřijatelný. Pravděpodobně jde o první známý případ, kdy AI agent pronikl na vládní web.
ChatGPT zachytil znepokojivé rozhovory o násilí. Bezpečnostní tým OpenAI označil účet budoucí střelkyně za rizikový. Policie se ale varování nedočkala. Po únorovém útoku na kanadskou školu, při němž zemřelo osm obětí a samotná útočnice, teď Britská Kolumbie žaluje OpenAI i jejího šéfa Sama Altmana. Tvrdí, že tragédii bylo možné zabránit, a požaduje peníze na obnovu školy i změnu bezpečnostních postupů.
Zatajování informací, pokusy obcházet omezení či vymyšlená data. OpenAI zveřejnila dosud nepopsané případy, kdy se její modely chovaly jinak, než jejich tvůrci zamýšleli. Firma proto zavádí nový systém pro sledování podobných incidentů, a to v době, kdy i technologické špičky stále hlasitěji varují před rostoucími a obtížně předvídatelnými riziky umělé inteligence.
Vrcholí éra venture kapitálového financování startupů. Po dvou dekádách soukromý kapitál dokáže vytvořit bilionovou firmu ještě před jejím vstupem na burzu. Vedle SpaceX se to daří také AI firmám, jejichž budoucnost je přitom nyní nejistá. Přesto odborníci poukazují na to, že nemusí jít o růst iracionální bubliny.
Investoři chtějí do OpenAI vložit další peníze. Tvůrce ChatGPT jedná o financování, které by jeho hodnotu vyšvihlo nad 1,2 bilionu dolarů. Firma by díky tomu mohla odložit vstup na burzu a získat prostředky na další akvizice.
Největší rivalové v umělé inteligenci hledají společnou řeč. OpenAI jedná s Anthropicem a Googlem o bezpečnosti AI v době, kdy bývalí výzkumníci varují před jejími krajními riziky. Donald Trump ale přísnější regulaci odmítá.
