Zatajování informací, pokusy obcházet omezení či vymyšlená data. OpenAI zveřejnila dosud nepopsané případy, kdy se její modely chovaly jinak, než jejich tvůrci zamýšleli. Firma proto zavádí nový systém pro sledování podobných incidentů, a to v době, kdy i technologické špičky stále hlasitěji varují před rostoucími a obtížně předvídatelnými riziky umělé inteligence.
Šéfové největších AI firem varují, že vývoj umělé inteligence začíná být příliš rychlý. Donald Trump ale zpomalování odmítá: podle něj si USA musí za každou cenu udržet náskok před Čínou, píše Financial Times.
Nejdřív Dario Amodei z Anthropic, teď Sam Altman z OpenAI. Šéfové největších AI firem začínají otevřeně mluvit o zpomalení vývoje nejpokročilejších modelů. Přichází to ve chvíli, kdy se hraje o bilionové valuace – a investoři začínají být nervózní.
Výzvy šéfů největších firem umělé inteligence ke zpomalení vývoje či sobotní oznámení OpenAI o odkladu vstupu na burzu mohou na první pohled vypadat jako špatná zpráva pro investory. Ale jen na první pohled.
Americká společnost OpenAI, která působí v oblasti umělé inteligence (AI), neuvede své akcie na burzu v letošním roce. V rozhovoru s časopisem Fortune to řekl šéf podniku Sam Altman. Poukázal v této souvislosti na pochybnosti ohledně bezpečnosti AI.
Varování před rychlým vývojem umělé inteligence – a potřebou zavést bariéry či omezení – začínají přicházet z mnoha stran. Po zkušených vývojářích a šéfech firem, včetně Sama Altmana z OpenAI a nejnověji šéfa Anthropiku Daria Amodeie, přichází další temné varování – tentokrát od známého investora Grega Jensena z Bridgewateru. Podle něj lidstvo začne skutečně jednat až ve chvíli, kdy AI začne zabíjet lidi – tedy pozdě.
Vymkne se AI nadobro lidské kontrole? Lidé, kteří stojí v čele jejího vývoje, už začínají řešit, jak tomu zabránit. Sam Altman, šéf OpenAI, zaměstnancům řekl, že firma zvažuje zpomalení vývoje umělé inteligence a uvítal by, kdyby se přidaly i další technologické společnosti. Nervozita uvnitř oboru totiž roste. Bezpečnostní incidenty a varování předních vývojářů znovu otevírají otázku, zda závod o stále schopnější AI nezačíná být příliš riskantní.
Závod o nejvýkonnější AI začíná znepokojovat i lidi, kteří ji sami vyvíjejí. Výzkumník Anthropic Jacob Coxon opustil firmu a tvrdí, že laboratoře „hazardují s našimi životy“. Jeho kolega Evan Hubinger pak odhadl pravděpodobnost, že AI během příští dekády „zabije všechny lidi“ na více než deset procent.
Francouzský Mistral, považovaný za největší evropskou naději v umělé inteligenci, získal od investorů tři miliardy eur, tedy zhruba 72,6 miliardy korun. Rekordní kolo vedené Samsungem firmu ocenilo na více než 21 miliard eur. Server CNBC uvádí, že Mistral chce peníze nalít do vlastních datacenter, výpočetního výkonu a vývoje větších a rychlejších modelů.
Nejinteligentnější umělá inteligence světa je tu. Tedy nejspíše. Manažer OpenAI mluví o novém modelu jako chytrá horákyně, je to nejinteligentnější AI, anebo trochu není. Každopádně s tím, jak se lidstvo blíží milníku superinteligence, se začínají dít věci na poli byznysu.
Evropská komise zařadila ChatGPT, Reddit a Roblox mezi mimořádně velké on-line platformy podle nařízení DSA. Všechny tři služby mají v EU více než 45 milionů aktivních uživatelů měsíčně a do konce listopadu budou muset plnit přísnější povinnosti, mimo jiné posuzovat rizika svých algoritmů, dopady na nezletilé, veřejnou bezpečnost či volební procesy.
