Prohlížeč ChatGPT Atlas chce konkurovat Google. Přinese to spoustu rizik, varuje expert
Společnost OpenAI, tvůrce ChatuGPT, představila nový prohlížeč Atlas. Ten chce konkurovat vyhledavači Googlu. Podle expertů je to krok o operačnímu systému na bázi AI, což přinese řadu rizik.
Prohlížeč ChatGPT Atlas od OpenAI je podle expertů na bezpečnost internetu prototypem toho, jak se budou v budoucnu používat počítače. Během několika let budou operační systémy využívat umělou inteligenci a uživatelé místo klikání na aplikace budou veškeré operace provádět prostřednictvím promptů. Zkrátka popíšete, co chcete, a umělá inteligence vše zařídí, v systému, aplikacích i na internetu.
Je to logický vývoj výpočetní techniky. Atlas demonstruje vizi, kde je umělá inteligence v centru výpočetního prostředí, rozumí kontextu vašeho digitálního života a jedná vaším jménem. Příštích několik let rozhodne, zda k této transformaci dojde bezpečně.
Narušení důvěry a hranic
„Kybernetická bezpečnost se opírá o důvěru a hranice. Zatímco tradiční výpočetní technika má jasné hranice, aplikace běží izolovaně, webové stránky nemají přístup k datům jiných webů a uživatelé schvalují každou akci, umělá inteligence tyto hranice ale ruší,“ říká Jiří Kohout, Security Architect z kyberbezpečnostní společnosti Check Point Software Technologies. „Prohlížeče patří mezi nejčastěji zneužívané nástroje, protože jsou bránou k citlivým datům. S nástupem umělé inteligence se situace ještě zhorší. AI bude pracovat s plným oprávněním ve všech přihlášených relacích – bankovnictví, e-mailu, zdravotních záznamech, firemních systémech.“
Neviditelné příkazy
„Hrozbou pro AI prohlížeče je nepřímé vložení příkazu. Nebezpečné pokyny totiž mohou být skryté v obsahu nějaké webové stránky. ‚Neviditelný‘ text s instrukcemi totiž uživatel nemusí vidět, ale umělá inteligence je přečte a zpracuje,“ upozorňuje Jiří Kohout.
Pokud AI prohlížeč zpracovává webovou stránku, nedokáže rozlišit vaše legitimní pokyny od škodlivých příkazů skrytých v obsahu. Tradiční bezpečnostní přístupy, jako jsou zásady stejného původu, jsou neúčinné, protože AI agenti jednají s vašimi plnými oprávněními a AI považuje veškerý text za potenciálně proveditelný.
Jak ukázaly testy, jediná škodlivá adresa může vést ke krádežím e-mailů, dat z kalendáře nebo přihlašovacích údajů, protože AI asistent má neomezený přístup ke všemu, co děláte.
Umělá inteligence přináší nejen obrovský technologický pokrok, ale i nové existenční hrozby. Experti na bezpečnost varují před scénářem, kdy by terorista s minimálními znalostmi mohl využít AI k vytvoření „superviru“ — kombinujícího inkubační dobu HIV, nakažlivost spalniček a smrtnost pravých neštovic. Takový vývoj by mohl znamenat katastrofu. Právě obava z podobného zneužití stojí za vznikem společnosti Valthos, která má za cíl využít AI k obraně proti biologickým útokům.
Teroristé by mohli pomocí AI vyrábět biologické zbraně. Nový startup tomu chce zabránit
Zprávy z firem
Ochrana soukromí
AI prohlížeče vyžadují přístup k datům, aby mohly pracovat efektivně. Čím více kontextu o historii prohlížení, dokumentech, komunikaci a chování mají, tím jsou užitečnější. To ale vytváří rizika. Každá webová stránka, kterou uživatel navštíví, každý formulář, který vyplní, vše se stává trénovacími daty pro AI, aby uživatele lépe pochopila.
Systémy budou proudit citlivé informace, finanční údaje, lékařské záznamy nebo obchodní komunikace. AI musí vše zpracovat, aby poskytla správnou pomoc, a postupně tak vytváří stále přesnější a komplexnější digitální dvojče uživatele. Tím ale nezáměrně tvoří komplexní infrastrukturu pro možnou špionáž.
Začala éra výpočetní techniky s umělou inteligencí. Ekonomické výhody a výhody pro uživatele jsou lákavé, ale je otázkou, zda dokážeme vybudovat adekvátní zabezpečení takto komplexních datových modelů.
„Bezpečnost je nutné brát jako nedílnou součást všech projektů už od jejich počátku, oddělit příkazy uživatelů od nedůvěryhodného webového obsahu a žádat potvrzení uživatelů pro citlivé akce,“ dodává Jiří Kohout. „Organizace by měly zacházet s AI prohlížeči jako s vysoce rizikovými technologiemi, které vyžadují zvýšený dohled, jasné zásady přijatelného použití a omezení přístupu k citlivým údajům, dokud nebudou k dispozici odpovídající bezpečnostní postupy.“
Regulační orgány musí vytvořit předpisy zohledňující rizika použití AI systémů. Je potřeba vyřešit transparentnost zpracování dat, zveřejňování bezpečnostních incidentů a odpovědnost v případě, že AI systémy jednají autonomně.
Atlas je prvním krokem v transformaci výpočetní techniky. Následujících 24 měsíců rozhodne, zda bezpečnost dožene inovace. Hranice, které uživatele po desetiletí chránily, se rozpadají. Ti, kteří jako první vytvoří adekvátní ochranu, budou definovat příští generaci výpočetní techniky pro miliardy lidí po celém světě, soudí Kohout.
Společnost OpenAI v úterý představila ChatGPT Atlas, dlouho očekávaný webový prohlížeč poháněný umělou inteligencí, postavený kolem jejího populárního chatbota – přímou výzvu pro dominantní postavení Google Chrome. Tento krok představuje nejnovější snahu OpenAI využít 800 milionů týdenně aktivních uživatelů ChatGPT a rozšířit se do dalších oblastí jejich online života prostřednictvím sběru dat o chování uživatelů v prohlížeči. Zároveň by mohl urychlit širší posun směrem k vyhledávání řízenému umělou inteligencí, kdy se uživatelé stále častěji obracejí na konverzační nástroje, které informace syntetizují, místo aby spoléhali na tradiční výsledky vyhledávání podle klíčových slov od Googlu – čímž se dále vyostřuje konkurence mezi OpenAI a Googlem.
VYŠEL LETNÍ NEWSTREAM CLUB
Sázky na růst Česka se vyplácejí. Potvrzují to lidé různých oborů a zájmů, s nimiž se můžete potkat při čtení aktuálního vydání magazínu Newstream CLUB. Česko má totiž obří potenciál, který se daří čím dál více využívat. Platí to pro investory, globální i lokální firmy, ale také pro tuzemský realitní trh. Jak se na vlně zájmu svézt, poradí letní vydání magazínu.
Na obálce magazínu jsou sourozenci se Sara a Teo Sandevovi, kteří patří ke generaci, která už nemusí volit mezi původem a zemí, kde vyrostla. Ona jde hereckou cestou, on spojuje fotbal, studium a rodinný byznys. Oba ale dobře vědí, že jejich největší výhodou je právě mix českého zázemí a balkánských kořenů.
Aktuální vydání se věnuje právě sázkám na Česko z mnoha pohledů: z pohledu investorů drobných i institucionálních, ale i z pohledu lidí, kteří se snaží zemi posunout dál. K nim patří například Petr Dvořák, který shání soukromé prostředky na spolufinancování stavby nové pražské filharmonie, nebo investor Marek Dospiva.
Česko se také stává čím dál větším lákadlem pro zahraniční firmy, které zde mají vývojová centra. Důvodů je celá řada, ale klíčové jsou pro globální firmy tři věci: vhodná geografická poloha, bezpečnost, a hlavně silné technické zázemí, díky kterému tu mohou pracovat na nejpokročilejších inovacích.
To potvrzuje například šéf globální technologické společnosti Everpure Charlie Giancarlo, který působil v největších firmách světa, stál u zrodu internetu a nyní se věnuje datovým úložištím. Rozhovor s ním také přináší letní vydání magazínu Newstream CLUB.
A rostoucí zájem nadnárodních firem o možnost působit v Česku potvrzuje také Tomáš Partsch z CTP, který vysvětluje, jak se z Brna stává evropské Silicon Valley.
Dvanácté vydání čtvrtletníku Newstream CLUB je v prodeji, distribuci zajišťuje Send. Digitální verzi magazínu lze zakoupit přímo na newstream.cz.
