Chatbot musí přiznat, že není člověk. Za porušení pravidel hrozí e-shopům drtivé pokuty
Nová pravidla pro AI už velmi brzy zasáhnou tisíce e-shopů. Vypořádat se s nařízením jednou větou v obchodních podmínkách ale nestačí. Těm, kdo AI Act nedodrží, hrozí milionové pokuty, varují právníci.
Zákazník musí od 2. srpna jasně poznat, že si nepíše s člověkem, ale s umělou inteligencí. Nová evropská pravidla, známé jako AI Act, dopadnou také na e-shopy využívající virtuální asistenty, AI agenty nebo digitálně vytvořené fotografie. Firmy musí zákazníkům jasně říct, když jednají s AI nebo sledují určitý obsah vytvořený či upravený umělou inteligencí. Podle internetového srovnávače Heureka přitom řada internetových obchodů stále není připravena.
Jedna věta v podmínkách nestačí
„Mezi novinky s nejviditelnějším dopadem patří povinnost jasně a včas informovat o tom, že zákazník komunikuje s umělou inteligencí,“ uvedl advokát Jaroslav Kuba z poradenské společnosti Rödl.
Informace se musí objevit přímo při komunikaci. Firmě tedy nebude stačit schovat obecnou zmínku o používání AI do obchodních podmínek, které většina zákazníků stejně nečte.
Evropa odkládá pravidla pro umělou inteligenci, protože na jejich složitost sama není připravená, píše v komentáři pro Newstream advokát Pavol Szabo. To ale neznamená, že zůstává jen právní vakuum. 
Evropský AI ACT: Odklad není amnestie
Názory
Zvláštní pravidla platí také pro AI agenty, kteří mohou sami rezervovat služby, objednávat zboží nebo vyřizovat korespondenci. Podle Kuby mají zákazníkovi sdělit nejen to, že jsou umělou inteligencí, ale také za koho jednají.
Heureka, která v Česku spolupracuje s více než 50 tisíci e-shopy, upozorňuje, že řada obchodníků ani nemá přesný přehled o tom, kde všude AI používá. Nástroje přitom mohou být součástí zákaznické podpory, marketingu, tvorby popisů i interních procesů.
Problém mohou být i příliš dokonalé fotografie
Povinnosti se netýkají pouze chatbotů. Označen musí být také takzvaný deepfake, tedy obrazový, zvukový nebo audiovizuální obsah vytvořený či upravený AI, který může působit jako skutečný.
V prostředí e-shopů může jít například o produktovou fotografii, která neodpovídá skutečnému vzhledu nebo vlastnostem zboží. Pravidla se mohou vztahovat také na syntetické avatary manažerů ve firemních videích nebo na virtuální influencery.
Poskytovatelé příslušných AI systémů zároveň musí umožnit, aby byl syntetický obsah označen také ve strojově čitelné podobě. Firma, která deepfake zveřejňuje, však musí lidi upozornit i srozumitelným způsobem. Pouhý skrytý technický údaj nestačí.
Z ulice působí nenápadně, téměř přísně. Stačí ale vejít dovnitř a černá dřevostavba nad údolím Litávky odhalí světlý, otevřený svět s výhledy do krajiny. Dům v Chodouni od 0,5 Studia je důkazem, že největší luxus současného bydlení nemusí být vidět na první pohled.
Žádná katalogová dřevostavba. Černý dům v Chodouni ukazuje, proč méně opravdu znamená víc
Enjoy
Nejvíc riskují firmy, které si myslí, že mají hotovo
Podle advokátky společnosti eLegal Karolíny Houžvičkové nejde o okrajové případy, ale o běžné situace, které řeší velká část internetových obchodů.
„Firmy, které budou mít problém, nebudou nutně ty, které rizika znaly a rozhodly se je podstoupit,“ uvedla. Nejohroženější podle ní mohou být podniky, které automaticky předpokládají, že mají vše v pořádku, aniž by si to ověřily.
Prvním krokem by proto mělo být zmapování všech používaných AI nástrojů. Firmy by měly zjistit, kdo s nimi pracuje, jaké údaje do nich zadává, jaký obsah pomocí nich vzniká a zda o jejich používání zákazníka správně informují.
Vedle AI Actu musí řešit také ochranu osobních údajů a autorská práva. Pokud zaměstnanci do nástrojů vkládají údaje o zákaznících, může se na jejich používání vztahovat také nařízení GDPR.
Umělá inteligence mění svět e-commerce od základů. Přináší revoluci do personalizace nákupního zážitku, zefektivňuje logistiku a otevírá cestu k novým obchodním modelům.
Stát by měl být k čínským e-shopům důslednější a přísnější. Obcházejí pravidla, říká Tomáš Prouza
Zprávy z firem
Pokuta může přesáhnout 360 milionů korun
Za porušení povinností hrozí sankce až 15 milionů eur, tedy přes 360 milionů korun, nebo tři procenta celosvětového ročního obratu společnosti. Výše postihu se má odvíjet také od velikosti firmy, závažnosti porušení a dalších okolností.
„Transparentnost podle AI Actu není o mechanickém lepení ikon,“ upozornil ředitel České asociace AI Lukáš Benzl. Smyslem podle něj je, aby člověk v důležitých situacích věděl, že jedná s AI nebo sleduje obsah, který sice působí reálně, ale skutečný není.
Firmy tak mají před srpnovým termínem poslední chvíli na kontrolu chatbotů, marketingových materiálů, interních pravidel i smluv s dodavateli technologií. Největším rizikem nemusí být úmyslné obcházení pravidel, ale přesvědčení, že se AI Act běžného internetového obchodu netýká.
VYŠEL LETNÍ NEWSTREAM CLUB
Sázky na růst Česka se vyplácejí. Potvrzují to lidé různých oborů a zájmů, s nimiž se můžete potkat při čtení aktuálního vydání magazínu Newstream CLUB. Česko má totiž obří potenciál, který se daří čím dál více využívat. Platí to pro investory, globální i lokální firmy, ale také pro tuzemský realitní trh. Jak se na vlně zájmu svézt, poradí letní vydání magazínu.
Na obálce magazínu jsou sourozenci se Sara a Teo Sandevovi, kteří patří ke generaci, která už nemusí volit mezi původem a zemí, kde vyrostla. Ona jde hereckou cestou, on spojuje fotbal, studium a rodinný byznys. Oba ale dobře vědí, že jejich největší výhodou je právě mix českého zázemí a balkánských kořenů.
Aktuální vydání se věnuje právě sázkám na Česko z mnoha pohledů: z pohledu investorů drobných i institucionálních, ale i z pohledu lidí, kteří se snaží zemi posunout dál. K nim patří například Petr Dvořák, který shání soukromé prostředky na spolufinancování stavby nové pražské filharmonie, nebo investor Marek Dospiva.
Česko se také stává čím dál větším lákadlem pro zahraniční firmy, které zde mají vývojová centra. Důvodů je celá řada, ale klíčové jsou pro globální firmy tři věci: vhodná geografická poloha, bezpečnost, a hlavně silné technické zázemí, díky kterému tu mohou pracovat na nejpokročilejších inovacích.
To potvrzuje například šéf globální technologické společnosti Everpure Charlie Giancarlo, který působil v největších firmách světa, stál u zrodu internetu a nyní se věnuje datovým úložištím. Rozhovor s ním také přináší letní vydání magazínu Newstream CLUB.
A rostoucí zájem nadnárodních firem o možnost působit v Česku potvrzuje také Tomáš Partsch z CTP, který vysvětluje, jak se z Brna stává evropské Silicon Valley.
Dvanácté vydání čtvrtletníku Newstream CLUB je v prodeji, distribuci zajišťuje Send. Digitální verzi magazínu lze zakoupit přímo na newstream.cz.
