Altman otevřeně o AI: Hackerské útoky i podvody budou pokračovat, přínosy ale převáží
Šéf OpenAI Sam Altman se v rozhovoru pro web Politico vymezil vůči opatrnějšímu přístupu konkurenční Anthropic k regulaci umělé inteligence. Připustil, že AI přinese i zneužití, podvody nebo hackerské útoky, podle něj ale její přínosy převáží a technologie by měla zůstat široce dostupná veřejnosti.
Generální ředitel OpenAI Sam Altman vidí mezi svou firmou a konkurenční Anthropic stále zásadní rozdíl v přístupu k regulaci umělé inteligence. V rozhovoru pro web Politico uvedl, že společnost podle něj musí přijmout i některá rizika a negativní důsledky AI, pokud chce využít její přínosy a zachovat lidem možnost technologii běžně používat.
„Věříme, že svět by měl přijmout i některé špatné věci, které se budou dít, výměnou za přínosy této technologie a za to, že lidé budou mít možnost sami rozhodovat,“ řekl Altman.
Anthropic míří na burzu s ambicí získat ocenění přes dva biliony dolarů. Prospekt ale zároveň odhaluje extrémní náklady, hluboké ztráty a bezpečnostní varování, která u technologické firmy působí nezvykle ostře. Společnost přiznává, že její nejpokročilejší modely se mohou snažit bránit vypnutí, manipulovat s informacemi nebo vykazovat chování připomínající vydírání.
Anthropic jde na burzu s děsivým varováním. Její AI může ohrozit lidstvo a bránit se vypnutí
Trhy
OpenAI přitvrzuje, rozdíl ale zůstává
Anthropic je dlouhodobě považován za jednoho z nejsilnějších zastánců regulace AI v technologickém odvětví. OpenAI naproti tomu prosazovala mírnější přístup. V posledních měsících se však postoje obou firem částečně přiblížily.
OpenAI začala podporovat tvrdší bezpečnostní pravidla poté, co se potýkala s výraznými hackerskými incidenty a problematickým chováním svých modelů. Altman také podpořil výzvu šéfa Anthropic Daria Amodeie ke zpomalení vývoje nejpokročilejších modelů AI a jeho firma se přidala k podpoře nových zákonů, které zavádějí přísnější bezpečnostní požadavky.
Lobbisté OpenAI navíc podpořili návrh ve Sněmovně reprezentantů, podle něhož by největší AI společnosti musely do hodnocení bezpečnosti zapojit externí posuzovatele.
Altman odmítá svět, v němž AI ovládá jen několik firem
Přesto Altman zdůraznil, že OpenAI nechce přistoupit na model, v němž by vývoj nejpokročilejší umělé inteligence zůstal soustředěn v rukou několika laboratoří, které by zároveň rozhodovaly o tom, komu budou její výhody dostupné.
Představu, že by jediná laboratoř měla technologii držet pod kontrolou a rozhodovat o jejím využití, označil za „naprosto nepřijatelný kompromis“. OpenAI podle něj dál podporuje lehčí regulační přístup.
„Nepřijal bych výměnu ve smyslu: zajistíme, že nedojde k žádným velkým hackerským útokům, žádnému zneužití této technologie, žádným podvodům ani žádným dalším špatným věcem,“ uvedl Altman. Podle něj totiž lidé díky AI vytvoří „řádově více dobrých věcí než těch špatných“.
Umělá inteligence (AI) by mohla způsobit smrt miliardy lidí, řekl americké stanici NBC Bill Gates. Spoluzakladatel Microsoftu se proto přimlouvá za právní regulaci této technologie.
AI ve špatných rukou může stát miliardu životů, varuje Gates
Leaders
Katastrofická rizika ale odmítá
Altman současně zdůraznil, že tím neobhajuje přijímání všech možných rizik. Za nepřijatelná označil „skutečně katastrofická rizika“, mezi něž zařadil například možnost vážné ztráty kontroly nad umělou inteligencí.
Anthropic na jeho slova reagovala tím, že její regulační návrhy se vztahují pouze na nejpokročilejší modely. Šéf firmy Dario Amodei už dříve uvedl, že se Anthropic snaží připravovat pravidla tak, aby zpomalovala největší hráče v oblasti špičkové AI, ale naopak pomáhala menším konkurentům.
Do debaty vstupuje i politika
Rozhovor pro Politico se netýkal pouze samotné regulace. Altman mluvil také o nové dohodě prezidenta Donalda Trumpa s předními technologickými firmami, o autonomních hackerských incidentech provedených modely OpenAI či o možné právní odpovědnosti firmy.
Řeč přišla rovněž na vliv peněz z AI průmyslu na americkou politiku, působení takzvaných efektivních altruistů uvnitř OpenAI i na významné politické osobnosti včetně francouzského prezidenta Emmanuela Macrona a kalifornského guvernéra Gavina Newsoma.
VYŠEL PODZIMNÍ NEWSTREAM CLUB
Lepší život jako téma čísla
Změna k lepšímu je jedním z témat aktuálního vydání magazínu Newstream CLUB. Šířeji pak je tématem longevity, nebo obecněji lepší život. A to nejen každého konkrétního člověka, ale také společnosti nebo firem.
Na obálce magazínu je hvězdný šéfkuchař Radek Kašpárek. Radek Kašpárek je nový člověk, alespoň to říká v titulním rozhovoru. „Byl jsem prudší, výbušnější, taková neřízená střela. Celkově jsem se časem zklidnil, dostal se do větší pohody a tím se ve mně uklidnilo i ego,“ říká.
V novém magazínu tak čtenáři najdou například rozhovor s Pavlem Loudou. Jeho jméno patří k synonymům tuzemského vozoparku, protože je jedním z nejúspěšnějších prodejců aut u nás. Ale zároveň koupil také sklárny, v nichž pracovali jeho rodiče, investoval do nich stamiliony a dnes již může zhodnotit, jak se tato investice vyplatila.
Na rady rodičů vzpomíná také Barbara Paldus, dcera českých emigrantů, která se narodila v Kanadě, uspěla v Silicon Valley a dnes vyrábí kosmetiku, jež vychází z přírodních tradic, ale je podpořená high-endovou vědou. „Na magii sice nevěřím, ale umím věřit věcem, které zatím neumíme vysvětlit,“ říká vědkyně.
A o to, jak razantně změnit život po šedesátce, se podělí Hana Janata, lékařka, která v 55 začala profesionálně tančit a po šedesátce se stala modelkou. A spolupracuje s nejprestižnějšími značkami světa.
Třinácté vydání čtvrtletníku Newstream CLUB je v prodeji, distribuci zajišťuje Send. Digitální verzi magazínu lze zakoupit přímo na newstream.cz.
