Prohlížeč ChatGPT Atlas chce konkurovat Google. Přinese to spoustu rizik, varuje expert
Společnost OpenAI, tvůrce ChatuGPT, představila nový prohlížeč Atlas. Ten chce konkurovat vyhledavači Googlu. Podle expertů je to krok o operačnímu systému na bázi AI, což přinese řadu rizik.
Prohlížeč ChatGPT Atlas od OpenAI je podle expertů na bezpečnost internetu prototypem toho, jak se budou v budoucnu používat počítače. Během několika let budou operační systémy využívat umělou inteligenci a uživatelé místo klikání na aplikace budou veškeré operace provádět prostřednictvím promptů. Zkrátka popíšete, co chcete, a umělá inteligence vše zařídí, v systému, aplikacích i na internetu.
Je to logický vývoj výpočetní techniky. Atlas demonstruje vizi, kde je umělá inteligence v centru výpočetního prostředí, rozumí kontextu vašeho digitálního života a jedná vaším jménem. Příštích několik let rozhodne, zda k této transformaci dojde bezpečně.
Narušení důvěry a hranic
„Kybernetická bezpečnost se opírá o důvěru a hranice. Zatímco tradiční výpočetní technika má jasné hranice, aplikace běží izolovaně, webové stránky nemají přístup k datům jiných webů a uživatelé schvalují každou akci, umělá inteligence tyto hranice ale ruší,“ říká Jiří Kohout, Security Architect z kyberbezpečnostní společnosti Check Point Software Technologies. „Prohlížeče patří mezi nejčastěji zneužívané nástroje, protože jsou bránou k citlivým datům. S nástupem umělé inteligence se situace ještě zhorší. AI bude pracovat s plným oprávněním ve všech přihlášených relacích – bankovnictví, e-mailu, zdravotních záznamech, firemních systémech.“
Neviditelné příkazy
„Hrozbou pro AI prohlížeče je nepřímé vložení příkazu. Nebezpečné pokyny totiž mohou být skryté v obsahu nějaké webové stránky. ‚Neviditelný‘ text s instrukcemi totiž uživatel nemusí vidět, ale umělá inteligence je přečte a zpracuje,“ upozorňuje Jiří Kohout.
Pokud AI prohlížeč zpracovává webovou stránku, nedokáže rozlišit vaše legitimní pokyny od škodlivých příkazů skrytých v obsahu. Tradiční bezpečnostní přístupy, jako jsou zásady stejného původu, jsou neúčinné, protože AI agenti jednají s vašimi plnými oprávněními a AI považuje veškerý text za potenciálně proveditelný.
Jak ukázaly testy, jediná škodlivá adresa může vést ke krádežím e-mailů, dat z kalendáře nebo přihlašovacích údajů, protože AI asistent má neomezený přístup ke všemu, co děláte.
Umělá inteligence přináší nejen obrovský technologický pokrok, ale i nové existenční hrozby. Experti na bezpečnost varují před scénářem, kdy by terorista s minimálními znalostmi mohl využít AI k vytvoření „superviru“ — kombinujícího inkubační dobu HIV, nakažlivost spalniček a smrtnost pravých neštovic. Takový vývoj by mohl znamenat katastrofu. Právě obava z podobného zneužití stojí za vznikem společnosti Valthos, která má za cíl využít AI k obraně proti biologickým útokům.
Teroristé by mohli pomocí AI vyrábět biologické zbraně. Nový startup tomu chce zabránit
Zprávy z firem
Ochrana soukromí
AI prohlížeče vyžadují přístup k datům, aby mohly pracovat efektivně. Čím více kontextu o historii prohlížení, dokumentech, komunikaci a chování mají, tím jsou užitečnější. To ale vytváří rizika. Každá webová stránka, kterou uživatel navštíví, každý formulář, který vyplní, vše se stává trénovacími daty pro AI, aby uživatele lépe pochopila.
Systémy budou proudit citlivé informace, finanční údaje, lékařské záznamy nebo obchodní komunikace. AI musí vše zpracovat, aby poskytla správnou pomoc, a postupně tak vytváří stále přesnější a komplexnější digitální dvojče uživatele. Tím ale nezáměrně tvoří komplexní infrastrukturu pro možnou špionáž.
Začala éra výpočetní techniky s umělou inteligencí. Ekonomické výhody a výhody pro uživatele jsou lákavé, ale je otázkou, zda dokážeme vybudovat adekvátní zabezpečení takto komplexních datových modelů.
„Bezpečnost je nutné brát jako nedílnou součást všech projektů už od jejich počátku, oddělit příkazy uživatelů od nedůvěryhodného webového obsahu a žádat potvrzení uživatelů pro citlivé akce,“ dodává Jiří Kohout. „Organizace by měly zacházet s AI prohlížeči jako s vysoce rizikovými technologiemi, které vyžadují zvýšený dohled, jasné zásady přijatelného použití a omezení přístupu k citlivým údajům, dokud nebudou k dispozici odpovídající bezpečnostní postupy.“
Regulační orgány musí vytvořit předpisy zohledňující rizika použití AI systémů. Je potřeba vyřešit transparentnost zpracování dat, zveřejňování bezpečnostních incidentů a odpovědnost v případě, že AI systémy jednají autonomně.
Atlas je prvním krokem v transformaci výpočetní techniky. Následujících 24 měsíců rozhodne, zda bezpečnost dožene inovace. Hranice, které uživatele po desetiletí chránily, se rozpadají. Ti, kteří jako první vytvoří adekvátní ochranu, budou definovat příští generaci výpočetní techniky pro miliardy lidí po celém světě, soudí Kohout.
Společnost OpenAI v úterý představila ChatGPT Atlas, dlouho očekávaný webový prohlížeč poháněný umělou inteligencí, postavený kolem jejího populárního chatbota – přímou výzvu pro dominantní postavení Google Chrome. Tento krok představuje nejnovější snahu OpenAI využít 800 milionů týdenně aktivních uživatelů ChatGPT a rozšířit se do dalších oblastí jejich online života prostřednictvím sběru dat o chování uživatelů v prohlížeči. Zároveň by mohl urychlit širší posun směrem k vyhledávání řízenému umělou inteligencí, kdy se uživatelé stále častěji obracejí na konverzační nástroje, které informace syntetizují, místo aby spoléhali na tradiční výsledky vyhledávání podle klíčových slov od Googlu – čímž se dále vyostřuje konkurence mezi OpenAI a Googlem.
VYŠEL PODZIMNÍ NEWSTREAM CLUB
Lepší život jako téma čísla
Změna k lepšímu je jedním z témat aktuálního vydání magazínu Newstream CLUB. Šířeji pak je tématem longevity, nebo obecněji lepší život. A to nejen každého konkrétního člověka, ale také společnosti nebo firem.
Na obálce magazínu je hvězdný šéfkuchař Radek Kašpárek. Radek Kašpárek je nový člověk, alespoň to říká v titulním rozhovoru. „Byl jsem prudší, výbušnější, taková neřízená střela. Celkově jsem se časem zklidnil, dostal se do větší pohody a tím se ve mně uklidnilo i ego,“ říká.
V novém magazínu tak čtenáři najdou například rozhovor s Pavlem Loudou. Jeho jméno patří k synonymům tuzemského vozoparku, protože je jedním z nejúspěšnějších prodejců aut u nás. Ale zároveň koupil také sklárny, v nichž pracovali jeho rodiče, investoval do nich stamiliony a dnes již může zhodnotit, jak se tato investice vyplatila.
Na rady rodičů vzpomíná také Barbara Paldus, dcera českých emigrantů, která se narodila v Kanadě, uspěla v Silicon Valley a dnes vyrábí kosmetiku, jež vychází z přírodních tradic, ale je podpořená high-endovou vědou. „Na magii sice nevěřím, ale umím věřit věcem, které zatím neumíme vysvětlit,“ říká vědkyně.
A o to, jak razantně změnit život po šedesátce, se podělí Hana Janata, lékařka, která v 55 začala profesionálně tančit a po šedesátce se stala modelkou. A spolupracuje s nejprestižnějšími značkami světa.
Třinácté vydání čtvrtletníku Newstream CLUB je v prodeji, distribuci zajišťuje Send. Digitální verzi magazínu lze zakoupit přímo na newstream.cz.
