Donald Trump uzavřel s předními hráči světa umělé inteligence dobrovolnou dohodu, která má přinést přísnější kontroly rychle se rozvíjejících AI systémů. Prezident přitom odmítá brzdit technologický vývoj a věří především v samoregulaci firem. Dohoda přichází právě ve chvíli, kdy část samotného odvětví stále hlasitěji varuje, že se pokročilé modely mohou vymknout kontrole.
Zatajování informací, pokusy obcházet omezení či vymyšlená data. OpenAI zveřejnila dosud nepopsané případy, kdy se její modely chovaly jinak, než jejich tvůrci zamýšleli. Firma proto zavádí nový systém pro sledování podobných incidentů, a to v době, kdy i technologické špičky stále hlasitěji varují před rostoucími a obtížně předvídatelnými riziky umělé inteligence.
Vrcholí éra venture kapitálového financování startupů. Po dvou dekádách soukromý kapitál dokáže vytvořit bilionovou firmu ještě před jejím vstupem na burzu. Vedle SpaceX se to daří také AI firmám, jejichž budoucnost je přitom nyní nejistá. Přesto odborníci poukazují na to, že nemusí jít o růst iracionální bubliny.
Investoři chtějí do OpenAI vložit další peníze. Tvůrce ChatGPT jedná o financování, které by jeho hodnotu vyšvihlo nad 1,2 bilionu dolarů. Firma by díky tomu mohla odložit vstup na burzu a získat prostředky na další akvizice.
Největší rivalové v umělé inteligenci hledají společnou řeč. OpenAI jedná s Anthropicem a Googlem o bezpečnosti AI v době, kdy bývalí výzkumníci varují před jejími krajními riziky. Donald Trump ale přísnější regulaci odmítá.
Donald Trump odmítá brzdit vývoj umělé inteligence a obavy z jejího vymknutí kontrole zlehčuje. Jenže odpor proti jeho přístupu sílí už i mezi republikány a AI se před listopadovými volbami rychle mění v citlivé politické téma.
Šéfové největších AI firem varují, že vývoj umělé inteligence začíná být příliš rychlý. Donald Trump ale zpomalování odmítá: podle něj si USA musí za každou cenu udržet náskok před Čínou, píše Financial Times.
Nejdřív Dario Amodei z Anthropic, teď Sam Altman z OpenAI. Šéfové největších AI firem začínají otevřeně mluvit o zpomalení vývoje nejpokročilejších modelů. Přichází to ve chvíli, kdy se hraje o bilionové valuace – a investoři začínají být nervózní.
Výzvy šéfů největších firem umělé inteligence ke zpomalení vývoje či sobotní oznámení OpenAI o odkladu vstupu na burzu mohou na první pohled vypadat jako špatná zpráva pro investory. Ale jen na první pohled.
Americká společnost OpenAI, která působí v oblasti umělé inteligence (AI), neuvede své akcie na burzu v letošním roce. V rozhovoru s časopisem Fortune to řekl šéf podniku Sam Altman. Poukázal v této souvislosti na pochybnosti ohledně bezpečnosti AI.
Varování před rychlým vývojem umělé inteligence – a potřebou zavést bariéry či omezení – začínají přicházet z mnoha stran. Po zkušených vývojářích a šéfech firem, včetně Sama Altmana z OpenAI a nejnověji šéfa Anthropiku Daria Amodeie, přichází další temné varování – tentokrát od známého investora Grega Jensena z Bridgewateru. Podle něj lidstvo začne skutečně jednat až ve chvíli, kdy AI začne zabíjet lidi – tedy pozdě.
