David Ondráčka: Naše civilizace neumí uhlídat ani ledničku. Co se vypne příště?
Hackeři dokázali na dálku proměnit mrazáky francouzských supermarketů v topení a způsobili škody za miliony eur. Případ ukazuje, jak zranitelná je stále propojenější civilizace a jak málo někdy stačí k narušení systémů, které považujeme za samozřejmé, píše ve svém komentáři analytik a bývalý ředitel Transparency International ČR David Ondráčka.
Žijeme v křehkém světě, Francie zažila názornou lekci zranitelnosti moderní civilizace. Hackeři pronikli do řídicích systémů mrazniček v supermarketech a mrazáky rozehřáli až na plus 50 stupňů, část potravin to zničilo. Máme křehký svět, který neumí uhlídat ledničku.
Přes noc tak obchodní řetězce Leclerc, Carrefour, Intermarché nebo Coopérative U přišly o potraviny za miliony eur, v několika supermarketech vypukly požáry, nikdo naštěstí nezemřel ani nebyl zraněn. Ale co přijde příště, kam se nabourají, co přestane fungovat? A kdo to udělal a proč? Třeba za útokem stojí Moskva, sofistikovaná operace tajných služeb, anebo taky naštvaný ajťák, co celé mládí jedl zmrzlou pizzu z těchhle supermarketových mrazáků a teď se jim chce za to pomstít?
Křehký svět na dálkové ovládání
Na první pohled jde o absurdní historku z technologického věku, ale je znepokojivější. Někdo se nabourá do ledniček a místo krádeže dat jim poručí, aby začaly topit. Naše civilizace je stále sofistikovanější, propojenější a efektivnější, ale stále závislejší na systémech, jejichž fungování většina lidí vůbec nerozumí. Supermarket není jen budova s regály a pokladnami. Je to síť digitálně řízených zařízení, logistiky, skladování, plateb a dodávek, které musí fungovat současně. Stačí zasáhnout jeden článek a problém se začne šířit dál. Civilizace, která umí řídit všechno na dálku, může také na dálku všechno pokazit.
Umělá inteligence by se v budoucnu nemusela spoléhat jen na obří datová centra. Mohla by se sama šířit mezi levnými zařízeními připojenými k internetu, využívat jejich výpočetní výkon a vytvářet decentralizovanou síť, kterou nebude snadné vypnout. Společnost Anthropic varuje, že malé AI modely mohou být od podobné schopnosti vzdálené už jen několik měsíců, píše CNBC.
AI se vám může nastěhovat do televize i trouby. A pak už ji nemusí být snadné vypnout, varuje Anthropic
Enjoy
Co se vypne příště?
Co když se někdo nabourá do systémů vodáren a naruší úpravu pitné vody? Do řízení elektrické sítě, nemocničních přístrojů nebo distribuce léků? Co když útok na průmyslové systémy naruší provoz letiště nebo přístavu? To neznamená, že to lze jednoduše ovládnout nebo že příští útok automaticky způsobí katastrofu. Jasně, jednotlivé systémy mají různé úrovně zabezpečení a ochrany. Ale tento příběh ze supermarketů ukazuje, že i poměrně obyčejná technologie může mít nečekané následky a potvrzuje tu křehkost.
Moderní svět drží pohromadě. Dokud někdo nezmáčkne špatné tlačítko
Moderní společnost je zranitelná i tím, jak si zvykla na nepřetržitý provoz všeho. Voda teče, elektřina funguje, potraviny jsou v regálech, platby procházejí a doprava jezdí. Považujeme to za samozřejmost, nikoli za výsledek složitého systému, který někdo musí udržovat, kontrolovat a chránit. Digitalizace nám přinesla pohodlí a efektivitu, ale také nové závislosti. Často propojujeme zařízení, která byla původně navržena pro úplně jiný účel, a bezpečnost doháníme až ve chvíli, kdy se něco pokazí. Útočník nemusí být geniální programátor s neomezenými prostředky, někdy mu stačí najít jednu slabinu, na kterou výrobce, provozovatel nebo správce zapomněl.
Naše civilizace není tak odolná, jak si rádi namlouváme. Umíme řadu věcí, ale čím složitější a propojenější systém budujeme, tím více záleží na tom, aby jeho jednotlivé části fungovaly správně. A tím horší můžou být následky selhání. Ledničky, které se přes noc promění v topení, jsou zatím varováním. Dokážeme postavit svět, který se při prvním vážnějším útoku nezhroutí jako domeček z digitálních karet.
Umělá inteligence není jen nástroj, ale stále samostatnější aktér, který může být brzy inteligentnější než člověk. Profesor Yuval Noah Harari varuje před nástupem amerického a čínského AI imperialismu i před světem, na jehož soužití s umělou inteligencí zatím nikdo nemá plán.
Profesor Harari: AI už není nástroj. Je to agent, který se rozhoduje sám
Leaders
Velmocenský konflikt v oddělení pizz?
Nejhorší přitom je, že zatím se neví, kdo za útokem stojí a co jím sledoval. Mohla to být hackerská skupina hledající zábavu, kriminální aktéři testující své schopnosti, nebo někdo jednající v zájmu cizího státu. Útočník může zůstat skrytý, jeho motivace nejasná a odpovědnost obtížně prokazatelná. Někdy stačí vyvolat nejistotu, ochromit provoz a přimět společnost, aby začala pochybovat o bezpečnosti vlastních systémů.
Moskva, nebo trauma ze zmrzlé pizzy?
Anebo je to celé mnohem prostší. Co když za útokem nestojí Moskva, hybridní válka ani sofistikovaná operace tajných služeb, ale frustrovaný ajťák, který celé mládí jedl jen zmrzlou pizzu z těchhle supermarketových mrazáků? A teď, po letech, konečně objevil slabinu systému a rozhodl se pomstít. Ne kapitalismu, ne Západu, ale všem těm pizzám, mrazákům a obchodům, co mu zkazily mládí a žaludek.
Někdy bývá skutečnost mnohem prozaičtější než naše geopolitické konstrukce. Za velkými škodami nemusí stát velký plán, ale malá osobní msta, uražené ego nebo někdo, kdo si chce dokázat, že na to má. A právě to je na digitálním světě možná nejděsivější: k vyvolání velkého problému někdy nepotřebujete armádu hackerů. Stačí jeden člověk, jedna přehlédnutá bezpečnostní díra a jeho nenávist k mražené pizze.
