Nová AI děsí banky. Umí najít slabiny během sekund
Bankovní regulátoři musí zabránit zneužití modelu umělé inteligence Mythos od americké společnosti Anthropic, uvedl podle agentur na konferenci v Římě prezident německé centrální banky (Bundesbank) a člen rady guvernérů Evropské centrální banky Joachim Nagel. Mythos, který Anthropic označuje za dosud nejpokročilejšího modelu, vyvolal pozdvižení tím, že je schopen velmi rychle najít slabiny systémů a mohl by být zneužit ke kybernetické kriminalitě nebývalého rozsahu.
„Mythos je model umělé inteligence, který podle všeho dokáže rychle identifikovat a využít bezpečnostní chyby v softwaru finančních institucí,“ řekl Nagel. „Tento model AI se však jeví jako dvojsečná zbraň, protože by mohl být vhodný nejen ke zlepšení digitálních bezpečnostních systémů, ale také k využití jejich zranitelností pro zlovolné účely,“ dodal s tím, že všechny relevantní instituce by podle něj měly dostat přístup k technologii, aby se zabránilo narušení hospodářské soutěže.
Anthropic dosud omezil přístup k modelu na partnery v iniciativě Project Glasswing a přibližně 40 dalších organizací, které vyvíjejí nebo spravují kritickou softwarovou infrastrukturu. Americká banka JPMorgan, jež je součástí iniciativy Glasswing, je jedinou bankou, u níž Anthropic veřejně potvrdil, že má k modelu přístup. Podle informovaného zdroje agentury Reuters je Bank of America od začátku součástí Glasswingu a technologii Mythos interně testuje.
Anthropic v současné době vede rozhovory s Evropskou komisí ohledně svých modelů, včetně rizikového modelu Mythos, který dosud není v EU dostupný, řekl na konci minulého týdne mluvčí komise Thomas Regnier.
Co dokáže nový model Mythos od Anthropicu? Nejspíš hodně, když se kvůli němu schází americký ministr financí se šéfy bank a kyberbezpečnostní firmy na celém světě panikaří.
Stanislav Šulc: Svět vyděsil nový model AI od Anthropicu. Zdá se, že oprávněně
Názory
Regnier připomněl, že od 2. srpna vstupuje v účinnost takzvaný Akt o AI v plném znění. „Tato pravidla budou vynucovaná od té doby. Máme povinnost zmírňovat rizika vyplývající ze služby, která možná bude, možná nebude nabízená v EU. V tomto ohledu se vedou předběžné diskuse s Anthropikem, uvidíme, jaké výstupy z toho vzejdou,“ řekl.
Rozhovory označil za dobré s tím, že Anthropic předává Bruselu potřebné informace. Na dotaz novináře Regnier nepotvrdil, že by Evropská komise měla alespoň částečný přístup k modelu, aby mohla posoudit příslušná rizika.
Často se v poslední době říká, že Evropa náskok v AI nedožene. Clay Van Doren, šéf nadnárodní technologické společnosti Avenga, to v komentáři pro newstream.cz vidí jinak. Evropa – včetně Česka – má šanci se dobrat k nezávislosti a lokalizaci AI: tím, že ji správně nasadí do průmyslu a reálné ekonomiky.
Evropa má v AI náskok před USA i Čínou, jen ho nevidíme, říká šéf technologické firmy Avenga
Názory
Vážná hrozba
Americká asociace pro cenné papíry (ASA) varovala, že Mythos představuje vážnou hrozbu pro bezpečnost finančních dat. Technologie by mohla být zneužita k prolomení databáze Consolidated Audit Trail spravované Komisí pro cenné papíry a burzy (SEC), což by mohlo vést k masovým krádežím identit a odhalení obchodních portfolií.
Situací se zabývají nejvyšší představitelé amerického finančního sektoru, kteří jednají o nezbytné reformě dohledových systémů pod tlakem nových kybernetických rizik. Kritici podle agentury Bloomberg poukazují na to, že pokročilá AI umožňuje průmyslovou špionáž a manipulaci s trhem, které dříve vyžadovaly kapacity celých států.
VYŠEL PODZIMNÍ NEWSTREAM CLUB
Lepší život jako téma čísla
Změna k lepšímu je jedním z témat aktuálního vydání magazínu Newstream CLUB. Šířeji pak je tématem longevity, nebo obecněji lepší život. A to nejen každého konkrétního člověka, ale také společnosti nebo firem.
Na obálce magazínu je Radek Kašpárek. Hvězdný šéfkuchař je nový člověk, alespoň to říká v titulním rozhovoru. „Byl jsem prudší, výbušnější, taková neřízená střela. Celkově jsem se časem zklidnil, dostal se do větší pohody a tím se ve mně uklidnilo i ego,“ říká.
V novém magazínu tak čtenáři najdou například rozhovor s Pavlem Loudou. Jeho jméno patří k synonymům tuzemského vozoparku, protože je jedním z nejúspěšnějších prodejců aut u nás. Ale zároveň koupil také sklárny, v nichž pracovali jeho rodiče, investoval do nich stamiliony a dnes již může zhodnotit, jak se tato investice vyplatila.
Na rady rodičů vzpomíná také Barbara Paldus, dcera českých emigrantů, která se narodila v Kanadě, uspěla v Silicon Valley a dnes vyrábí kosmetiku, jež vychází z přírodních tradic, ale je podpořená high-endovou vědou. „Na magii sice nevěřím, ale umím věřit věcem, které zatím neumíme vysvětlit,“ říká vědkyně.
A o to, jak razantně změnit život po šedesátce, se podělí Hana Janata, lékařka, která v 55 začala profesionálně tančit a po šedesátce se stala modelkou. A spolupracuje s nejprestižnějšími značkami světa.
Třinácté vydání čtvrtletníku Newstream CLUB je v prodeji, distribuci zajišťuje Send. Digitální verzi magazínu lze zakoupit přímo na newstream.cz.
