Nová AI děsí banky. Umí najít slabiny během sekund
Bankovní regulátoři musí zabránit zneužití modelu umělé inteligence Mythos od americké společnosti Anthropic, uvedl podle agentur na konferenci v Římě prezident německé centrální banky (Bundesbank) a člen rady guvernérů Evropské centrální banky Joachim Nagel. Mythos, který Anthropic označuje za dosud nejpokročilejšího modelu, vyvolal pozdvižení tím, že je schopen velmi rychle najít slabiny systémů a mohl by být zneužit ke kybernetické kriminalitě nebývalého rozsahu.
„Mythos je model umělé inteligence, který podle všeho dokáže rychle identifikovat a využít bezpečnostní chyby v softwaru finančních institucí,“ řekl Nagel. „Tento model AI se však jeví jako dvojsečná zbraň, protože by mohl být vhodný nejen ke zlepšení digitálních bezpečnostních systémů, ale také k využití jejich zranitelností pro zlovolné účely,“ dodal s tím, že všechny relevantní instituce by podle něj měly dostat přístup k technologii, aby se zabránilo narušení hospodářské soutěže.
Anthropic dosud omezil přístup k modelu na partnery v iniciativě Project Glasswing a přibližně 40 dalších organizací, které vyvíjejí nebo spravují kritickou softwarovou infrastrukturu. Americká banka JPMorgan, jež je součástí iniciativy Glasswing, je jedinou bankou, u níž Anthropic veřejně potvrdil, že má k modelu přístup. Podle informovaného zdroje agentury Reuters je Bank of America od začátku součástí Glasswingu a technologii Mythos interně testuje.
Anthropic v současné době vede rozhovory s Evropskou komisí ohledně svých modelů, včetně rizikového modelu Mythos, který dosud není v EU dostupný, řekl na konci minulého týdne mluvčí komise Thomas Regnier.
Co dokáže nový model Mythos od Anthropicu? Nejspíš hodně, když se kvůli němu schází americký ministr financí se šéfy bank a kyberbezpečnostní firmy na celém světě panikaří.
Stanislav Šulc: Svět vyděsil nový model AI od Anthropicu. Zdá se, že oprávněně
Názory
Regnier připomněl, že od 2. srpna vstupuje v účinnost takzvaný Akt o AI v plném znění. „Tato pravidla budou vynucovaná od té doby. Máme povinnost zmírňovat rizika vyplývající ze služby, která možná bude, možná nebude nabízená v EU. V tomto ohledu se vedou předběžné diskuse s Anthropikem, uvidíme, jaké výstupy z toho vzejdou,“ řekl.
Rozhovory označil za dobré s tím, že Anthropic předává Bruselu potřebné informace. Na dotaz novináře Regnier nepotvrdil, že by Evropská komise měla alespoň částečný přístup k modelu, aby mohla posoudit příslušná rizika.
Často se v poslední době říká, že Evropa náskok v AI nedožene. Clay Van Doren, šéf nadnárodní technologické společnosti Avenga, to v komentáři pro newstream.cz vidí jinak. Evropa – včetně Česka – má šanci se dobrat k nezávislosti a lokalizaci AI: tím, že ji správně nasadí do průmyslu a reálné ekonomiky.
Evropa má v AI náskok před USA i Čínou, jen ho nevidíme, říká šéf technologické firmy Avenga
Názory
Vážná hrozba
Americká asociace pro cenné papíry (ASA) varovala, že Mythos představuje vážnou hrozbu pro bezpečnost finančních dat. Technologie by mohla být zneužita k prolomení databáze Consolidated Audit Trail spravované Komisí pro cenné papíry a burzy (SEC), což by mohlo vést k masovým krádežím identit a odhalení obchodních portfolií.
Situací se zabývají nejvyšší představitelé amerického finančního sektoru, kteří jednají o nezbytné reformě dohledových systémů pod tlakem nových kybernetických rizik. Kritici podle agentury Bloomberg poukazují na to, že pokročilá AI umožňuje průmyslovou špionáž a manipulaci s trhem, které dříve vyžadovaly kapacity celých států.
VYŠEL JARNÍ NEWSTREAM CLUB
Soukromí je nový luxus. A možná i nejcennější dovednost dneška.
Jarní vydání magazínu Newstream CLUB se zaměřuje na téma, které dnes řeší miliardáři i běžní lidé – jak si uchovat vlastní prostor v době, kdy jsme neustále online. Soukromé kluby, tiché byty, digitální detox i život na očích veřejnosti.
V novém čísle přinášíme rozhovory s Vendulou Pizingerovou, youtuberem Tarym nebo zakladatelem Smarty.cz Petrem Syrůčkem. Nechybí inspirace ze světa byznysu, stylu ani cestování – a také konkrétní tipy, jak si soukromí znovu vzít zpět.
Jedenácté vydání čtvrtletníku Newstream CLUB je v prodeji na stáncích i v online distribuci Send, kde je možné titul také předplatit. Digitální verzi magazínu lze zakoupit přímo na webu newstream.cz.
Na další číslo magazínu se můžete těšit v červnu.
