Prohlížeč ChatGPT Atlas chce konkurovat Google. Přinese to spoustu rizik, varuje expert
Společnost OpenAI, tvůrce ChatuGPT, představila nový prohlížeč Atlas. Ten chce konkurovat vyhledavači Googlu. Podle expertů je to krok o operačnímu systému na bázi AI, což přinese řadu rizik.
Prohlížeč ChatGPT Atlas od OpenAI je podle expertů na bezpečnost internetu prototypem toho, jak se budou v budoucnu používat počítače. Během několika let budou operační systémy využívat umělou inteligenci a uživatelé místo klikání na aplikace budou veškeré operace provádět prostřednictvím promptů. Zkrátka popíšete, co chcete, a umělá inteligence vše zařídí, v systému, aplikacích i na internetu.
Je to logický vývoj výpočetní techniky. Atlas demonstruje vizi, kde je umělá inteligence v centru výpočetního prostředí, rozumí kontextu vašeho digitálního života a jedná vaším jménem. Příštích několik let rozhodne, zda k této transformaci dojde bezpečně.
Narušení důvěry a hranic
„Kybernetická bezpečnost se opírá o důvěru a hranice. Zatímco tradiční výpočetní technika má jasné hranice, aplikace běží izolovaně, webové stránky nemají přístup k datům jiných webů a uživatelé schvalují každou akci, umělá inteligence tyto hranice ale ruší,“ říká Jiří Kohout, Security Architect z kyberbezpečnostní společnosti Check Point Software Technologies. „Prohlížeče patří mezi nejčastěji zneužívané nástroje, protože jsou bránou k citlivým datům. S nástupem umělé inteligence se situace ještě zhorší. AI bude pracovat s plným oprávněním ve všech přihlášených relacích – bankovnictví, e-mailu, zdravotních záznamech, firemních systémech.“
Neviditelné příkazy
„Hrozbou pro AI prohlížeče je nepřímé vložení příkazu. Nebezpečné pokyny totiž mohou být skryté v obsahu nějaké webové stránky. ‚Neviditelný‘ text s instrukcemi totiž uživatel nemusí vidět, ale umělá inteligence je přečte a zpracuje,“ upozorňuje Jiří Kohout.
Pokud AI prohlížeč zpracovává webovou stránku, nedokáže rozlišit vaše legitimní pokyny od škodlivých příkazů skrytých v obsahu. Tradiční bezpečnostní přístupy, jako jsou zásady stejného původu, jsou neúčinné, protože AI agenti jednají s vašimi plnými oprávněními a AI považuje veškerý text za potenciálně proveditelný.
Jak ukázaly testy, jediná škodlivá adresa může vést ke krádežím e-mailů, dat z kalendáře nebo přihlašovacích údajů, protože AI asistent má neomezený přístup ke všemu, co děláte.
Umělá inteligence přináší nejen obrovský technologický pokrok, ale i nové existenční hrozby. Experti na bezpečnost varují před scénářem, kdy by terorista s minimálními znalostmi mohl využít AI k vytvoření „superviru“ — kombinujícího inkubační dobu HIV, nakažlivost spalniček a smrtnost pravých neštovic. Takový vývoj by mohl znamenat katastrofu. Právě obava z podobného zneužití stojí za vznikem společnosti Valthos, která má za cíl využít AI k obraně proti biologickým útokům.
Teroristé by mohli pomocí AI vyrábět biologické zbraně. Nový startup tomu chce zabránit
Zprávy z firem
Ochrana soukromí
AI prohlížeče vyžadují přístup k datům, aby mohly pracovat efektivně. Čím více kontextu o historii prohlížení, dokumentech, komunikaci a chování mají, tím jsou užitečnější. To ale vytváří rizika. Každá webová stránka, kterou uživatel navštíví, každý formulář, který vyplní, vše se stává trénovacími daty pro AI, aby uživatele lépe pochopila.
Systémy budou proudit citlivé informace, finanční údaje, lékařské záznamy nebo obchodní komunikace. AI musí vše zpracovat, aby poskytla správnou pomoc, a postupně tak vytváří stále přesnější a komplexnější digitální dvojče uživatele. Tím ale nezáměrně tvoří komplexní infrastrukturu pro možnou špionáž.
Začala éra výpočetní techniky s umělou inteligencí. Ekonomické výhody a výhody pro uživatele jsou lákavé, ale je otázkou, zda dokážeme vybudovat adekvátní zabezpečení takto komplexních datových modelů.
„Bezpečnost je nutné brát jako nedílnou součást všech projektů už od jejich počátku, oddělit příkazy uživatelů od nedůvěryhodného webového obsahu a žádat potvrzení uživatelů pro citlivé akce,“ dodává Jiří Kohout. „Organizace by měly zacházet s AI prohlížeči jako s vysoce rizikovými technologiemi, které vyžadují zvýšený dohled, jasné zásady přijatelného použití a omezení přístupu k citlivým údajům, dokud nebudou k dispozici odpovídající bezpečnostní postupy.“
Regulační orgány musí vytvořit předpisy zohledňující rizika použití AI systémů. Je potřeba vyřešit transparentnost zpracování dat, zveřejňování bezpečnostních incidentů a odpovědnost v případě, že AI systémy jednají autonomně.
Atlas je prvním krokem v transformaci výpočetní techniky. Následujících 24 měsíců rozhodne, zda bezpečnost dožene inovace. Hranice, které uživatele po desetiletí chránily, se rozpadají. Ti, kteří jako první vytvoří adekvátní ochranu, budou definovat příští generaci výpočetní techniky pro miliardy lidí po celém světě, soudí Kohout.
Společnost OpenAI v úterý představila ChatGPT Atlas, dlouho očekávaný webový prohlížeč poháněný umělou inteligencí, postavený kolem jejího populárního chatbota – přímou výzvu pro dominantní postavení Google Chrome. Tento krok představuje nejnovější snahu OpenAI využít 800 milionů týdenně aktivních uživatelů ChatGPT a rozšířit se do dalších oblastí jejich online života prostřednictvím sběru dat o chování uživatelů v prohlížeči. Zároveň by mohl urychlit širší posun směrem k vyhledávání řízenému umělou inteligencí, kdy se uživatelé stále častěji obracejí na konverzační nástroje, které informace syntetizují, místo aby spoléhali na tradiční výsledky vyhledávání podle klíčových slov od Googlu – čímž se dále vyostřuje konkurence mezi OpenAI a Googlem.
PODZIMNÍ NEWSTREAM CLUB PRÁVĚ VYCHÁZÍ
Hlavním tématem podzimního čísla magazínu Newstream Club je Sázka na Česko. Česko je totiž země s ohromným potenciálem. To je jedna ze spojovacích myšlenek vlivných českých podnikatelů. A ten potenciál je zejména v lidech. Jak ale tento potenciál vzít a přetočit jej ve skutečnou hodnotu, na které lze následně stavět růst? Právě o těchto otázkách jsme mluvili s několika výraznými figurami českého, slovenského, ale i světového byznysu.
Velmi aktivní, a přitom neotřelý způsob ukazuje galeristka Olga Trčková, která v centru Prahy vybudovala úspěšnou komerční galerii DSC Gallery. O tom, jak může Česko, či potažmo Česko a Slovensko uspět na globální scéně, pak vědí své miliardáři Vlastislav Bříza a Dalibor Cicman. První dokázal tradiční značku Koh-i-noor dostat do celého světa, druhý se svým e-commerce projektem GymBeam svět postupně dobývá.
Kromě rozhovorů s klíčovými osobnostmi trhu se v magazínu dozvíte také prognózu vývoje na pražské burze, proč se v Kuchyni na Pražském hradě nesmaží smažák nebo jak to vlastně mají Češi se svými chalupami.
Deváté vydání čtvrtletníku Newstream CLUB je v prodeji na stáncích i v online distribuci Send, kde je možné titul také předplatit. Digitální verzi magazínu lze zakoupit přímo na webu newstream.cz.
Na další číslo se můžete těšit již v prosinci.
