Agent umělé inteligence od OpenAI v červnu neoprávněně pronikl na australský vládní portál se zdravotními statistikami a dostal se k veřejným i neveřejným souborům. Podle premiéra Anthonyho Albaneseho nic nenasvědčuje tomu, že by získal přístup k osobním údajům pacientů, incident ale vláda označuje za nepřijatelný. Pravděpodobně jde o první známý případ, kdy AI agent pronikl na vládní web.
Největší rivalové v umělé inteligenci hledají společnou řeč. OpenAI jedná s Anthropicem a Googlem o bezpečnosti AI v době, kdy bývalí výzkumníci varují před jejími krajními riziky. Donald Trump ale přísnější regulaci odmítá.
Donald Trump odmítá brzdit vývoj umělé inteligence a obavy z jejího vymknutí kontrole zlehčuje. Jenže odpor proti jeho přístupu sílí už i mezi republikány a AI se před listopadovými volbami rychle mění v citlivé politické téma.
Šéfové největších AI firem varují, že vývoj umělé inteligence začíná být příliš rychlý. Donald Trump ale zpomalování odmítá: podle něj si USA musí za každou cenu udržet náskok před Čínou, píše Financial Times.
Nejdřív Dario Amodei z Anthropic, teď Sam Altman z OpenAI. Šéfové největších AI firem začínají otevřeně mluvit o zpomalení vývoje nejpokročilejších modelů. Přichází to ve chvíli, kdy se hraje o bilionové valuace – a investoři začínají být nervózní.
Výzvy šéfů největších firem umělé inteligence ke zpomalení vývoje či sobotní oznámení OpenAI o odkladu vstupu na burzu mohou na první pohled vypadat jako špatná zpráva pro investory. Ale jen na první pohled.
Americká společnost OpenAI, která působí v oblasti umělé inteligence (AI), neuvede své akcie na burzu v letošním roce. V rozhovoru s časopisem Fortune to řekl šéf podniku Sam Altman. Poukázal v této souvislosti na pochybnosti ohledně bezpečnosti AI.
Varování před rychlým vývojem umělé inteligence – a potřebou zavést bariéry či omezení – začínají přicházet z mnoha stran. Po zkušených vývojářích a šéfech firem, včetně Sama Altmana z OpenAI a nejnověji šéfa Anthropiku Daria Amodeie, přichází další temné varování – tentokrát od známého investora Grega Jensena z Bridgewateru. Podle něj lidstvo začne skutečně jednat až ve chvíli, kdy AI začne zabíjet lidi – tedy pozdě.
Vymkne se AI nadobro lidské kontrole? Lidé, kteří stojí v čele jejího vývoje, už začínají řešit, jak tomu zabránit. Sam Altman, šéf OpenAI, zaměstnancům řekl, že firma zvažuje zpomalení vývoje umělé inteligence a uvítal by, kdyby se přidaly i další technologické společnosti. Nervozita uvnitř oboru totiž roste. Bezpečnostní incidenty a varování předních vývojářů znovu otevírají otázku, zda závod o stále schopnější AI nezačíná být příliš riskantní.
Závod o nejvýkonnější AI začíná znepokojovat i lidi, kteří ji sami vyvíjejí. Výzkumník Anthropic Jacob Coxon opustil firmu a tvrdí, že laboratoře „hazardují s našimi životy“. Jeho kolega Evan Hubinger pak odhadl pravděpodobnost, že AI během příští dekády „zabije všechny lidi“ na více než deset procent.
Francouzský Mistral, považovaný za největší evropskou naději v umělé inteligenci, získal od investorů tři miliardy eur, tedy zhruba 72,6 miliardy korun. Rekordní kolo vedené Samsungem firmu ocenilo na více než 21 miliard eur. Server CNBC uvádí, že Mistral chce peníze nalít do vlastních datacenter, výpočetního výkonu a vývoje větších a rychlejších modelů.
