Chatbot musí přiznat, že není člověk. Za porušení pravidel hrozí e-shopům drtivé pokuty
Nová pravidla pro AI už velmi brzy zasáhnou tisíce e-shopů. Vypořádat se s nařízením jednou větou v obchodních podmínkách ale nestačí. Těm, kdo AI Act nedodrží, hrozí milionové pokuty, varují právníci.
Zákazník musí od 2. srpna jasně poznat, že si nepíše s člověkem, ale s umělou inteligencí. Nová evropská pravidla, známé jako AI Act, dopadnou také na e-shopy využívající virtuální asistenty, AI agenty nebo digitálně vytvořené fotografie. Firmy musí zákazníkům jasně říct, když jednají s AI nebo sledují určitý obsah vytvořený či upravený umělou inteligencí. Podle internetového srovnávače Heureka přitom řada internetových obchodů stále není připravena.
Jedna věta v podmínkách nestačí
„Mezi novinky s nejviditelnějším dopadem patří povinnost jasně a včas informovat o tom, že zákazník komunikuje s umělou inteligencí,“ uvedl advokát Jaroslav Kuba z poradenské společnosti Rödl.
Informace se musí objevit přímo při komunikaci. Firmě tedy nebude stačit schovat obecnou zmínku o používání AI do obchodních podmínek, které většina zákazníků stejně nečte.
Evropa odkládá pravidla pro umělou inteligenci, protože na jejich složitost sama není připravená, píše v komentáři pro Newstream advokát Pavol Szabo. To ale neznamená, že zůstává jen právní vakuum. 
Evropský AI ACT: Odklad není amnestie
Názory
Zvláštní pravidla platí také pro AI agenty, kteří mohou sami rezervovat služby, objednávat zboží nebo vyřizovat korespondenci. Podle Kuby mají zákazníkovi sdělit nejen to, že jsou umělou inteligencí, ale také za koho jednají.
Heureka, která v Česku spolupracuje s více než 50 tisíci e-shopy, upozorňuje, že řada obchodníků ani nemá přesný přehled o tom, kde všude AI používá. Nástroje přitom mohou být součástí zákaznické podpory, marketingu, tvorby popisů i interních procesů.
Problém mohou být i příliš dokonalé fotografie
Povinnosti se netýkají pouze chatbotů. Označen musí být také takzvaný deepfake, tedy obrazový, zvukový nebo audiovizuální obsah vytvořený či upravený AI, který může působit jako skutečný.
V prostředí e-shopů může jít například o produktovou fotografii, která neodpovídá skutečnému vzhledu nebo vlastnostem zboží. Pravidla se mohou vztahovat také na syntetické avatary manažerů ve firemních videích nebo na virtuální influencery.
Poskytovatelé příslušných AI systémů zároveň musí umožnit, aby byl syntetický obsah označen také ve strojově čitelné podobě. Firma, která deepfake zveřejňuje, však musí lidi upozornit i srozumitelným způsobem. Pouhý skrytý technický údaj nestačí.
Z ulice působí nenápadně, téměř přísně. Stačí ale vejít dovnitř a černá dřevostavba nad údolím Litávky odhalí světlý, otevřený svět s výhledy do krajiny. Dům v Chodouni od 0,5 Studia je důkazem, že největší luxus současného bydlení nemusí být vidět na první pohled.
Žádná katalogová dřevostavba. Černý dům v Chodouni ukazuje, proč méně opravdu znamená víc
Enjoy
Nejvíc riskují firmy, které si myslí, že mají hotovo
Podle advokátky společnosti eLegal Karolíny Houžvičkové nejde o okrajové případy, ale o běžné situace, které řeší velká část internetových obchodů.
„Firmy, které budou mít problém, nebudou nutně ty, které rizika znaly a rozhodly se je podstoupit,“ uvedla. Nejohroženější podle ní mohou být podniky, které automaticky předpokládají, že mají vše v pořádku, aniž by si to ověřily.
Prvním krokem by proto mělo být zmapování všech používaných AI nástrojů. Firmy by měly zjistit, kdo s nimi pracuje, jaké údaje do nich zadává, jaký obsah pomocí nich vzniká a zda o jejich používání zákazníka správně informují.
Vedle AI Actu musí řešit také ochranu osobních údajů a autorská práva. Pokud zaměstnanci do nástrojů vkládají údaje o zákaznících, může se na jejich používání vztahovat také nařízení GDPR.
Umělá inteligence mění svět e-commerce od základů. Přináší revoluci do personalizace nákupního zážitku, zefektivňuje logistiku a otevírá cestu k novým obchodním modelům.
Stát by měl být k čínským e-shopům důslednější a přísnější. Obcházejí pravidla, říká Tomáš Prouza
Zprávy z firem
Pokuta může přesáhnout 360 milionů korun
Za porušení povinností hrozí sankce až 15 milionů eur, tedy přes 360 milionů korun, nebo tři procenta celosvětového ročního obratu společnosti. Výše postihu se má odvíjet také od velikosti firmy, závažnosti porušení a dalších okolností.
„Transparentnost podle AI Actu není o mechanickém lepení ikon,“ upozornil ředitel České asociace AI Lukáš Benzl. Smyslem podle něj je, aby člověk v důležitých situacích věděl, že jedná s AI nebo sleduje obsah, který sice působí reálně, ale skutečný není.
Firmy tak mají před srpnovým termínem poslední chvíli na kontrolu chatbotů, marketingových materiálů, interních pravidel i smluv s dodavateli technologií. Největším rizikem nemusí být úmyslné obcházení pravidel, ale přesvědčení, že se AI Act běžného internetového obchodu netýká.
VYŠEL PODZIMNÍ NEWSTREAM CLUB
Lepší život jako téma čísla
Změna k lepšímu je jedním z témat aktuálního vydání magazínu Newstream CLUB. Šířeji pak je tématem longevity, nebo obecněji lepší život. A to nejen každého konkrétního člověka, ale také společnosti nebo firem.
Na obálce magazínu je hvězdný šéfkuchař Radek Kašpárek. Radek Kašpárek je nový člověk, alespoň to říká v titulním rozhovoru. „Byl jsem prudší, výbušnější, taková neřízená střela. Celkově jsem se časem zklidnil, dostal se do větší pohody a tím se ve mně uklidnilo i ego,“ říká.
V novém magazínu tak čtenáři najdou například rozhovor s Pavlem Loudou. Jeho jméno patří k synonymům tuzemského vozoparku, protože je jedním z nejúspěšnějších prodejců aut u nás. Ale zároveň koupil také sklárny, v nichž pracovali jeho rodiče, investoval do nich stamiliony a dnes již může zhodnotit, jak se tato investice vyplatila.
Na rady rodičů vzpomíná také Barbara Paldus, dcera českých emigrantů, která se narodila v Kanadě, uspěla v Silicon Valley a dnes vyrábí kosmetiku, jež vychází z přírodních tradic, ale je podpořená high-endovou vědou. „Na magii sice nevěřím, ale umím věřit věcem, které zatím neumíme vysvětlit,“ říká vědkyně.
A o to, jak razantně změnit život po šedesátce, se podělí Hana Janata, lékařka, která v 55 začala profesionálně tančit a po šedesátce se stala modelkou. A spolupracuje s nejprestižnějšími značkami světa.
Třinácté vydání čtvrtletníku Newstream CLUB je v prodeji, distribuci zajišťuje Send. Digitální verzi magazínu lze zakoupit přímo na newstream.cz.
