Reklama

Nový magazín právě vychází!

Objednávejte zde

Nastává doba deepfakes. Lidé i firmy nevědomky posílají podvodníkům miliony dolarů. A bude hůř

Podvodů označovaných deepfakes přibývá, firmy už přišly o miliony dolarů
ČTK
 ČTK

Firmy po celém světě už přišly o miliony dolarů kvůli podvodům označovaným jako deepfakes a odborníci na bezpečnost v kybernetickém prostoru upozorňují, že situace se bude dál zhoršovat. Zločinci totiž čím dál více zneužívají generativní umělou inteligenci (AI), informuje server televize CNBC. Jako deepfake se označuje technologie, která v digitálním prostředí umožňuje podvodníkům vytvářet falešný obsah, například i pozměněním obličeje jiných lidí.

Reklama

Deepfake, volně přeloženo jako hluboký padělek, může být video, zvuk, případně fotografie skutečné osoby, které byly digitálně upraveny a zmanipulovány, často prostřednictvím umělé inteligence. Cílem je přesvědčivě je zkreslit, aby vyvolaly dojem, že jde o realitu.

V jednom z největších známých případů tohoto druhu, který se odehrál v letošním roce, byl podveden pracovník jednoho finančního oddělení v Hongkongu. Převedl takto více než 25 milionů dolarů (567 milionů korun) podvodníkům využívajícím technologii deepfake, kteří při videohovoru svůj vlastní obraz pozměnili tak, že pracovník byl přesvědčen, že před sebou na monitoru vidí své kolegy.

Minulý týden britská strojírenská společnost Arup serveru CNBC potvrdila, že je to ona, kdo je do tohoto případu zapojen, ale že kvůli pokračujícímu vyšetřování nemůže být v této záležitosti konkrétnější.

Čínský prezident Si Ťin-pching

Číňané mají nového chatbota. Byl sestrojen tak, aby byl věrný doktríně prezidenta Si Ťin-pchinga

Nejnovější čínský chatbot využívající umělou inteligenci (AI) je věrný doktríně prezidenta a vůdce komunistické strany Si Ťin-pchinga. Čínský úřad pro správu kyberprostoru (CAC) chatovacího robota představil tento týden, přičemž uvedl, že byl mimo jiné vytrénován na spisu zvaném Si Ťin-pchingovy myšlenky o socialismu s čínskými rysy pro novou éru, informovala agentura AP.

Přečíst článek

Reklama

Podobné hrozby narůstají v důsledku popularizace chatovacího programu Chat GPT od americké společnosti OpenAI. Ta jej zpřístupnila v roce 2022 a od té doby se mezi lidmi prudce zvýšil zájem o technologii generativní AI.

Může to dělat kdokoliv

„Veřejná dostupnost těchto služeb snížila bariéru vstupu pro kybernetické zločince - ti už nemusejí mít speciální technologické dovednosti,“ řekl David Fairman ze společnosti Netskope, která se specializuje na bezpečnost v kybernetickém prostoru. Objem a sofistikovanost podvodů se podle něj rozšířily s tím, jak se technologie AI neustále vyvíjí.

Různé služby generativní AI lze využít k vytváření textového či obrazového obsahu, stejně jako videa, které vypadají, jako kdyby je vytvořil člověk nebo jako kdyby na nich byl skutečný člověk zobrazen. Mohou tak fungovat jako pomocné nástroje pro zločince, kteří se snaží digitálně manipulovat a přetvářet obraz reálných osob.

„Stejně jako v mnoha jiných firmách po celém světě jsou i naše aktivity vystaveny pravidelným útokům, včetně podvodů s fakturami, phishingových podvodů, falšování hlasu přes WhatsApp a deepfakes,“ řekl mluvčí firmy Arup.

Digitálně vytvoření lidé

V případě pracovníka finančního oddělení, kterého podvodníci připravili o miliony dolarů, šlo o to, že se tento pracovník zúčastnil údajně klasického videohovoru. Na druhé straně byli lidé, které tento pracovník považoval za finančního ředitele společnosti a za další zaměstnance podniku. Pracovník byl požádán o převod peněz, ale zbytek účastníků schůzky byl deepfake - byly to digitálně upravené obrazy lidí, kteří se skutečnými zaměstnanci podniku neměli nic společného.

Společnost Arup uvedla, že při incidentu byly použity falešné hlasy a obrazy. Upozornila přitom, že počet a sofistikovanost těchto útoků v posledních měsících prudce narůstá.

ilustrační foto

S rozvojem umělé inteligence narůstá počet kybernetických útoků. Překoná Crowdstrike opět očekávání trhu?

Mohutný nárůst rozvoje umělé inteligence a jejího využití, přechod na cloud a neustále probíhající digitalizace s sebou přináší řadu úskalí. S rozšiřováním digitálního prostředí roste potřeba komplexních řešení kybernetické bezpečnosti. Výzkumná agentura Cybersecurity Ventures odhaduje, že v loňském roce globálním ekonomika díky kybernetickým útokům přišla o osm bilionů dolarů. V roce 2025 by se toto číslo mělo přehoupnout přes 10 bilionů dolarů.

Přečíst článek

Čínská státní média letos informovala o podobném případu v provincii Šan-si. Týkal se zaměstnankyně finančního oddělení, která byla na základě zmanipulovaných pokynů vyzvána k převodu 1,86 milionu jüanů (5,8 milionu korun) na účet podvodníka. Stalo se to rovněž při videohovoru s člověkem, o němž se zaměstnankyně domnívala, že je to její šéf. Ve skutečnosti šlo o deepfake a osoba na druhé straně měla pouze podobu jejího šéfa.

Podobné případy ale nejsou tak úplně nové. V roce 2019 generální ředitel jedné britské energetické společnosti podle médií převedl 220 tisíc eur (5,4 milionu korun) podvodníkovi, který digitálně napodobil vzezření šéfa mateřské společnosti a telefonicky požádal generálního ředitele o převod peněz údajnému dodavateli.

Výzkumníci společnost Mandiant, která se věnuje bezpečnosti v kybernetickém prostoru a kterou vlastní americká internetová společnost Google, loni v srpnu zdokumentovali mnoho podobných případů. Zločinci při nich také využívali zejména umělou inteligenci a technologii deepfake pro phishingové podvody, dezinformace a další nezákonné účely. Firma tehdy uvedla, že použití technologie pro takové aktivity je omezené, ale že rostoucí dostupnost nových nástrojů generativní AI urychlí její využití lidmi se zlými úmysly.

Magazín newstream CLUB

Jak vytvářet odkaz pro příští generace? Odpovědi z byznysového světa, ale i od výrazných osobností společenského života nabízí třetí číslo magazínu newstream CLUB, který právě vychází.

Na obálce byznysově - lifestylového čtvrtletníku je František Kinský, legendární šlechtic, který vypráví, jak se v jejich rodě dědí nikoli majetek, ale zodpovědnost a služba. 

Hvězdami jarního čísla jsou dále mimo jiné Silke Horáková (Albatros), Luděk Sekyra (Sekyra Group), Zbyněk Frolík (Linet) nebo architekt Václav Aulický či umělec Milan Knížák.

Magazín se věnuje tématům dlouhodobých investic, předávání majetku v rámci rodinných klanů, tradičním českým značkám či tomu, jak developeři společně s architekty mění tvář měst na dlouhá staletí.

Magazín přináší inspirativní čtení, které má čtenáře motivovat k tomu, aby zkusili i ve své profesi či hobby vytvářet věci s trvalejší vizí

K dostání je v síti PNS i online. Nově také v elektronické podobě v našem e-shopu.

Související témata 

Nástupnictví

Miliardáři

Umění

Filantropie

Reklama

Související

Hacker (ilustrační foto)

Muži chtějí vydělat, ženy románek. Kyberpodvodníci jsou stále rafinovanější, říká policejní expert

Přečíst článek

Senior z Pardubicka vylákal z lidí desítky milionů. Hrozí mu deset let za mřížemi

Přečíst článek
Reklama
Reklama
Reklama
Doporučujeme