AI začíná děsit i své tvůrce. Sam Altman zvažuje zpomalení vývoje
Vymkne se AI nadobro lidské kontrole? Lidé, kteří stojí v čele jejího vývoje, už začínají řešit, jak tomu zabránit. Sam Altman, šéf OpenAI, zaměstnancům řekl, že firma zvažuje zpomalení vývoje umělé inteligence a uvítal by, kdyby se přidaly i další technologické společnosti. Nervozita uvnitř oboru totiž roste. Bezpečnostní incidenty a varování předních vývojářů znovu otevírají otázku, zda závod o stále schopnější AI nezačíná být příliš riskantní.
OpenAI zvažuje, že zpomalí vývoj svých nejpokročilejších systémů umělé inteligence. Generální ředitel Sam Altman navíc podle lidí obeznámených s interními debatami doufá, že podobný krok udělají i další významné AI laboratoře, uvedla agentura Bloomberg.
Na celofiremním setkání tento týden Altman zaměstnancům řekl, že firma by mohla tempo vývoje upravit, případně ve spolupráci s několika dalšími hráči v oboru. Zároveň ale připustil, že ne všichni konkurenti musí mít o podobnou koordinaci zájem.
Debata přichází ve chvíli, kdy se obavy o bezpečnost nejpokročilejších modelů stále častěji ozývají přímo zevnitř technologických firem. Zaměstnanci OpenAI, Anthropicu a dalších společností veřejně upozorňují na rizika spojená s rychlým vývojem AI a někteří kvůli nim své pozice opouštějí.
Model Claude od Anthropicu se při bezpečnostním testování znovu dostal do externích systémů, aniž by to firma zachytila při původní kontrole více než 141 tisíc relací. Incident z ledna odhalila až v srpnu a nyní jej nechává prověřit externí výzkumnou firmou. Případ znovu otevírá otázku, jak bezpeční jsou autonomní AI agenti při práci s reálnými systémy.
AI unikla kontrole. Claude pronikl do externích systémů a Anthropic na to přišel až po měsících
Zprávy z firem
Dobrovolné zpomalení vývoje jako běžná praxe
Hlavní vědec OpenAI Jakub Pachocki nedávno napsal, že firmy vyvíjející umělou inteligenci by měly být připravené „koordinovat zpomalování dalšího vývoje podle potřeby“. Dobrovolné zpomalení by se podle něj mělo stát běžnou praxí, dokud nevzniknou společné bezpečnostní standardy.
OpenAI už některé části vývoje skutečně přibrzdila. Firma uvedla, že kvůli bezpečnostním obavám zpomalila část vývoje modelů a pozastavila některé interní tréninkové procesy. Altman už v červenci hovořil také s představiteli Bílého domu o potřebě regulovat tempo vývoje AI.
„Hazardují s našimi životy“
Napětí v oboru zesílilo i po sérii odchodů a veřejných varování. Výzkumník Jacob Coxon tento týden opustil svou práci a obvinil své bývalé zaměstnavatele Anthropic a OpenAI, že závodem o superinteligentní AI „hazardují s našimi životy“. Na sociálních sítích napsal, že lidé pracující na nejpokročilejší umělé inteligenci věří, že by technologie mohla „do konce desetiletí všechny zabít“.
Jeho vyjádření získalo více než 150 milionů zhlédnutí a přitáhlo pozornost politiků i veřejnosti. Další dva výzkumníci, kteří nedávno odešli z Anthropicu a Google DeepMind, následně rovněž upozornili, že vývoj AI postupuje příliš rychle a firmy by měly otevřeněji mluvit o souvisejících rizicích.
Zakladatel Rohlíku a řady dalších firem Tomáš Čupr má AI jako koníček. Své řešení Duvo.ai na transformaci pro éru umělé inteligence prodává i jiným firmám. „Za pár let budou všichni lidé pracovat podobným stylem jako nyní vývojáři,“ popisuje vizionář.
Jak Tomáš Čupr propadl AI? „Nudil jsem se a zrychlil jsem se…“
Leaders
Už koncem července podepsalo více než 1000 zaměstnanců největších AI společností petici požadující mechanismus, který by umožnil tempo vývoje zpomalit. Několik expertů na bezpečnost AI zároveň v posledních měsících z předních laboratoří odešlo.
Obavy zesílily také po bezpečnostních incidentech s autonomními AI agenty. Modely OpenAI podle zveřejněných informací dokázaly spolupracovat při prolomení omezení a nabourat se na web třetí strany. Podobné případy vyvolávají otázky, zda jsou firmy schopné udržet stále schopnější systémy pod kontrolou.
VYŠEL LETNÍ NEWSTREAM CLUB
Sázky na růst Česka se vyplácejí. Potvrzují to lidé různých oborů a zájmů, s nimiž se můžete potkat při čtení aktuálního vydání magazínu Newstream CLUB. Česko má totiž obří potenciál, který se daří čím dál více využívat. Platí to pro investory, globální i lokální firmy, ale také pro tuzemský realitní trh. Jak se na vlně zájmu svézt, poradí letní vydání magazínu.
Na obálce magazínu jsou sourozenci se Sara a Teo Sandevovi, kteří patří ke generaci, která už nemusí volit mezi původem a zemí, kde vyrostla. Ona jde hereckou cestou, on spojuje fotbal, studium a rodinný byznys. Oba ale dobře vědí, že jejich největší výhodou je právě mix českého zázemí a balkánských kořenů.
Aktuální vydání se věnuje právě sázkám na Česko z mnoha pohledů: z pohledu investorů drobných i institucionálních, ale i z pohledu lidí, kteří se snaží zemi posunout dál. K nim patří například Petr Dvořák, který shání soukromé prostředky na spolufinancování stavby nové pražské filharmonie, nebo investor Marek Dospiva.
Česko se také stává čím dál větším lákadlem pro zahraniční firmy, které zde mají vývojová centra. Důvodů je celá řada, ale klíčové jsou pro globální firmy tři věci: vhodná geografická poloha, bezpečnost, a hlavně silné technické zázemí, díky kterému tu mohou pracovat na nejpokročilejších inovacích.
To potvrzuje například šéf globální technologické společnosti Everpure Charlie Giancarlo, který působil v největších firmách světa, stál u zrodu internetu a nyní se věnuje datovým úložištím. Rozhovor s ním také přináší letní vydání magazínu Newstream CLUB.
A rostoucí zájem nadnárodních firem o možnost působit v Česku potvrzuje také Tomáš Partsch z CTP, který vysvětluje, jak se z Brna stává evropské Silicon Valley.
Dvanácté vydání čtvrtletníku Newstream CLUB je v prodeji, distribuci zajišťuje Send. Digitální verzi magazínu lze zakoupit přímo na newstream.cz.
