Nová AI děsí banky. Umí najít slabiny během sekund
Bankovní regulátoři musí zabránit zneužití modelu umělé inteligence Mythos od americké společnosti Anthropic, uvedl podle agentur na konferenci v Římě prezident německé centrální banky (Bundesbank) a člen rady guvernérů Evropské centrální banky Joachim Nagel. Mythos, který Anthropic označuje za dosud nejpokročilejšího modelu, vyvolal pozdvižení tím, že je schopen velmi rychle najít slabiny systémů a mohl by být zneužit ke kybernetické kriminalitě nebývalého rozsahu.
„Mythos je model umělé inteligence, který podle všeho dokáže rychle identifikovat a využít bezpečnostní chyby v softwaru finančních institucí,“ řekl Nagel. „Tento model AI se však jeví jako dvojsečná zbraň, protože by mohl být vhodný nejen ke zlepšení digitálních bezpečnostních systémů, ale také k využití jejich zranitelností pro zlovolné účely,“ dodal s tím, že všechny relevantní instituce by podle něj měly dostat přístup k technologii, aby se zabránilo narušení hospodářské soutěže.
Anthropic dosud omezil přístup k modelu na partnery v iniciativě Project Glasswing a přibližně 40 dalších organizací, které vyvíjejí nebo spravují kritickou softwarovou infrastrukturu. Americká banka JPMorgan, jež je součástí iniciativy Glasswing, je jedinou bankou, u níž Anthropic veřejně potvrdil, že má k modelu přístup. Podle informovaného zdroje agentury Reuters je Bank of America od začátku součástí Glasswingu a technologii Mythos interně testuje.
Anthropic v současné době vede rozhovory s Evropskou komisí ohledně svých modelů, včetně rizikového modelu Mythos, který dosud není v EU dostupný, řekl na konci minulého týdne mluvčí komise Thomas Regnier.
Co dokáže nový model Mythos od Anthropicu? Nejspíš hodně, když se kvůli němu schází americký ministr financí se šéfy bank a kyberbezpečnostní firmy na celém světě panikaří.
Stanislav Šulc: Svět vyděsil nový model AI od Anthropicu. Zdá se, že oprávněně
Názory
Regnier připomněl, že od 2. srpna vstupuje v účinnost takzvaný Akt o AI v plném znění. „Tato pravidla budou vynucovaná od té doby. Máme povinnost zmírňovat rizika vyplývající ze služby, která možná bude, možná nebude nabízená v EU. V tomto ohledu se vedou předběžné diskuse s Anthropikem, uvidíme, jaké výstupy z toho vzejdou,“ řekl.
Rozhovory označil za dobré s tím, že Anthropic předává Bruselu potřebné informace. Na dotaz novináře Regnier nepotvrdil, že by Evropská komise měla alespoň částečný přístup k modelu, aby mohla posoudit příslušná rizika.
Často se v poslední době říká, že Evropa náskok v AI nedožene. Clay Van Doren, šéf nadnárodní technologické společnosti Avenga, to v komentáři pro newstream.cz vidí jinak. Evropa – včetně Česka – má šanci se dobrat k nezávislosti a lokalizaci AI: tím, že ji správně nasadí do průmyslu a reálné ekonomiky.
Evropa má v AI náskok před USA i Čínou, jen ho nevidíme, říká šéf technologické firmy Avenga
Názory
Vážná hrozba
Americká asociace pro cenné papíry (ASA) varovala, že Mythos představuje vážnou hrozbu pro bezpečnost finančních dat. Technologie by mohla být zneužita k prolomení databáze Consolidated Audit Trail spravované Komisí pro cenné papíry a burzy (SEC), což by mohlo vést k masovým krádežím identit a odhalení obchodních portfolií.
Situací se zabývají nejvyšší představitelé amerického finančního sektoru, kteří jednají o nezbytné reformě dohledových systémů pod tlakem nových kybernetických rizik. Kritici podle agentury Bloomberg poukazují na to, že pokročilá AI umožňuje průmyslovou špionáž a manipulaci s trhem, které dříve vyžadovaly kapacity celých států.
VYŠEL LETNÍ NEWSTREAM CLUB
Sázky na růst Česka se vyplácejí. Potvrzují to lidé různých oborů a zájmů, s nimiž se můžete potkat při čtení aktuálního vydání magazínu Newstream CLUB. Česko má totiž obří potenciál, který se daří čím dál více využívat. Platí to pro investory, globální i lokální firmy, ale také pro tuzemský realitní trh. Jak se na vlně zájmu svézt, poradí letní vydání magazínu.
Na obálce magazínu jsou sourozenci se Sara a Teo Sandevovi, kteří patří ke generaci, která už nemusí volit mezi původem a zemí, kde vyrostla. Ona jde hereckou cestou, on spojuje fotbal, studium a rodinný byznys. Oba ale dobře vědí, že jejich největší výhodou je právě mix českého zázemí a balkánských kořenů.
Aktuální vydání se věnuje právě sázkám na Česko z mnoha pohledů: z pohledu investorů drobných i institucionálních, ale i z pohledu lidí, kteří se snaží zemi posunout dál. K nim patří například Petr Dvořák, který shání soukromé prostředky na spolufinancování stavby nové pražské filharmonie, nebo investor Marek Dospiva.
Česko se také stává čím dál větším lákadlem pro zahraniční firmy, které zde mají vývojová centra. Důvodů je celá řada, ale klíčové jsou pro globální firmy tři věci: vhodná geografická poloha, bezpečnost, a hlavně silné technické zázemí, díky kterému tu mohou pracovat na nejpokročilejších inovacích.
To potvrzuje například šéf globální technologické společnosti Everpure Charlie Giancarlo, který působil v největších firmách světa, stál u zrodu internetu a nyní se věnuje datovým úložištím. Rozhovor s ním také přináší letní vydání magazínu Newstream CLUB.
A rostoucí zájem nadnárodních firem o možnost působit v Česku potvrzuje také Tomáš Partsch z CTP, který vysvětluje, jak se z Brna stává evropské Silicon Valley.
Dvanácté vydání čtvrtletníku Newstream CLUB je v prodeji, distribuci zajišťuje Send. Digitální verzi magazínu lze zakoupit přímo na newstream.cz.
