Europoslanci schválili pravidla pro umělou inteligenci. Jsou nedostatečná, hodnotí Piráti

Jedni europoslanci akt o umělé inteligenci hodnotí jako průkopnické nařízení, které nastaví mantinely vývoje umělé inteligence. Jiní jej hodnotí slovy "lepší než nic". Europoslanec Marcel Kolaja (Piráti) vnímá akt jako absolutně nedostačující. Evropa podle něj promarnila příležitost jasně odmítnout autoritářské praktiky sledování lidí, které známe z Číny či Ruska.

Europoslanci ve středu schválili nová pravidla pro fungování umělé inteligence. Akt o umělé inteligenci je podle expertů prvním svého druhu na světě a mohl by ovlivnit podobné normy také v zemích mimo Evropskou unii. Nařízení zavádí klasifikaci technologií podle způsobu využití a nastavuje různé úrovně omezení podle míry souvisejících rizik. Některé systémy chce EU zcela zakázat, další nástroje jako algoritmy na rozpoznávání obličejů budou podléhat silné regulaci.

Nová pravidla by měla zajistit, aby umělá inteligence byla důvěryhodná, bezpečná, respektovala základní práva EU a podporovala inovace. Pro novinku hlasovalo 523 europoslanců, proti jich bylo 46 a 49 se zdrželo.

Asi největší spory se v Evropském parlamentu vedly ohledně používání AI k biometrickému sledování v reálném čase, tedy o možnost využívání systémů na rozpoznávání obličejů přes kamerové systémy na veřejnosti. Někteří europoslanci, například z české strany Piráti, se obávali zneužití umělé inteligence v této oblasti autoritativními režimy.

Altmanův ChatGPT je jen vrcholek ledovce. Na pozadí běží revoluce superinteligence

Trhy

Nová všeobecná umělá inteligence, neboli superinteligence, má být něco, co svět neviděl. Přichází ale do pořádného chaosu. OpenAI není sama, kdo běží závod o AI. Dá se na tom vydělat?

Tereza Zavadilová

Přečíst článek

Text nařízení, o kterém se ve středu hlasovalo, je dojednaným kompromisem mezi vyjednavači Evropského parlamentu, Evropskou komisí a belgickým předsednictvím v Radě EU, které zastupuje jednotlivé členské státy. Právě Piráti s konečnou verzí spokojeni nebyli, a proto hlasovali proti aktu. Legislativa totiž podle nich legalizuje užití umělé inteligence k plošnému sledování lidí za pomoci biometrických kamer, které umí podle obličejových rysů rozpoznat identitu člověka. Podle pirátského europoslance Marcela Kolaji jde o velké zklamání a promarněnou příležitost jasně v celé Evropě odmítnout autoritářské praktiky, které známe z Číny či Ruska.

Lepší než nic

„Akt o umělé inteligenci měl mimo jiné zakázat ty nejvíce nebezpečné způsoby využití umělé inteligence a nastavit základní mantinely, za které technologii v zájmu lidských práv prostě pustit nemůžeme. Bohužel v případě biometrických kamer dělá pravý opak,“ upozornil Kolaja. „Programy umělé inteligence umí v reálném čase rozpoznávat obličeje a přiřazovat je ke konkrétním lidem. Umožňují v reálném čase sledovat, kdo, kdy a kde je a s kým. V nesprávných rukou jde o děsivý nástroj plošného sledování lidí, což vidíme třeba v dnešním Rusku. Tam jsou nainstalovány třeba v metru a zneužívány ke špehování těch, kdo si dovolí mít 'nesprávný' názor,“ dodal.

Nařízení zkritizovala rovněž i česká europoslankyně Kateřina Konečná (KSČM). „Byl zde potenciál udělat něco pozitivního. To se však nestalo. Biometrické sledování současný text povoluje a zisky nejbohatších zvítězily nad bezpečností,,“ uvedla při úterní rozpravě.

Musk zažaloval Altmana a OpenAI. Prý zneužili umělou inteligenci

Zprávy z firem

Microsoft, tedy soukromá firma, je ten, kdo profituje z umělé inteligence OpenAI. Mělo to být přitom celé lidstvo, tvrdí výstřední miliardář Elon Musk v žalobě.

tzv

Přečíst článek

Mnozí europoslanci ale nový akt o umělé inteligenci ocenili. „Jsem hrdá na to, že se nám podařilo dosáhnout ochrany základních práv občanů, ale zároveň necháváme prostor pro inovace,“ uvedla dánská europoslankyně Karen Melchiorová z liberální frakce Renew. Jak uvedl německý europoslanec Sergey Lagodinsky z frakce Zelených, „je zapotřebí kontrolovat budoucí vývoj, než budoucí vývoj bude kontrolovat nás“. Dnes přijatá úprava je podle něj slabší, než jakou si představoval, nicméně „je to lepší než vůbec nic“. „V řadě ohledů jde o průkopnické nařízení,“ prohlásil Lagodinsky, který se narodil v Rusku, ale jeho rodina v 90. letech emigrovala do Německa.

Podle české europoslankyně Dity Charanzové z frakce Renew vytváří akt o umělé inteligenci „omezení pro vývoj, ale nesmí bránit ve vývoji“. Umělá inteligence je podle ní věcí budoucnosti. „Neměli bychom se vzdávat tohoto nástroje z důvodu strachu. U každé inovace existují rizika,“ uvedla v úterní rozpravě. Podle ní unijní pravidla nastavením mantinelů v AI dávají „jasné zadání vývojářům, aby cítili zodpovědnost za to, co vytvářejí“.

„Našli jsme správnou rovnováhu mezi ochranou a inovací? Máme dostatečné pojistky vůči rizikům pro občany? Ano. A měli bychom být hrdí, že ta odpověď je pozitivní,“ okomentoval akt jeden z jeho zpravodajů v EP, rumunský europoslanec Dragos Tudorache z frakce Renew. Využití biometrického sledování bylo v původní pozici Evropského parlamentu zcela zakázáno, při vyjednávání s členskými státy se ale do kompromisní verze aktu opět dostalo. Podle rumunského poslance jde ale o „využití velmi omezené a silně regulované“.

Umělá inteligence pomohla výrobci čipů Arm. Jeho akcie letí strmě vzhůru

Trhy

Cena akcií britské společnosti specializované na návrh integrovaných obvodů Arm Holdings se za necelý týden téměř zdvojnásobila. Firma zveřejnila minulý týden výsledky hospodaření, které ukázaly, že poptávka po technologii související s umělou inteligencí (AI) firmě výrazně zvyšuje tržby. Investoři sázejí na to, že firmě se bude díky AI dařit i nadále, napsal server zpravodajské televize BBC.

ČTK

Přečíst článek

Altman: Smutné, kam až Musk zašel. Žaluje nás za něco, co sám dřív chtěl

Leaders

Technologický inovátor a protřelý byznysmen Elon Musk se pokouší žalobou zbrzdit úspěch společnosti OpenAI, jíž byl kdysi součástí. Smutné, budeme se bránit, reagoval nynější šéf OpenAI Sam Altman a předložil e-maily, které si s Muskem v minulosti vyměnili, a jež by mohly Muskovy argumenty smést ze stolu.

ČTK

Přečíst článek

Sedm statečných, co vydělává a vydělávat bude dál

Trhy

Apple, Microsoft, Alphabet, Amazon, Tesla, Meta a Nvidia. Top technologické akcie, jimž patří dnešek i budoucnost, jak se dočtete v dalším dílu seriálu Psychologie trhu.

Tereza Zavadilová

Přečíst článek