Umělá inteligence ve válce: Vědci chtějí jasná pravidla, ale těžko je dostanou
Špičkový vědecký časopis Nature vyzval tento týden, aby využívání umělé inteligence v ozbrojených konfliktech bylo pozastaveno až do sjednání mezinárodní normy pro takovéto počínání. Zatím prý vzniká nebezpečné vakuum, které může vést ke ztrátám na životech civilistů. Je to postoj lidsky pochopitelný, ale v tuto chvíli neuskutečnitelný.
Světový vědecký časopis Nature ve svém redakčním stanovisku konstatuje, že svět vstoupil do éry, kdy válečné operace může vést umělá inteligence (AI). A to je rizikové. Modely AI mohou vytvářet nepřesné výstupy a způsob, jak ke svým závěrům docházejí, zůstává často nejasný. Mohou tedy vcelku snadno zničit civilní cíle.
Stanovisko časopisu Nature není úplně idealistické. Jeho autoři nepochybují o tom, že války jsou a budou. A že se v nich umělá inteligence určitě uplatní. Dokonce soudí, že právě využití AI v nich může snížit počet civilních obětí. Jenom chtějí, aby svět nejdřív přijal dohodu o tom, jak vojáci smějí umělou inteligenci v bojích používat. Podobně jako existují třeba ženevské úmluvy o humanitárních souvislostech vojenských konfliktů.
Je v tom bohužel nevyhnutelná absurdita. Mladý kluk v džínách a triku na diskotéce je civilní cíl a vojenské útoky by se mu podle dohod měly vyhnout (ale stejně kolikrát nevyhnou). Tentýž mladý kluk povolaný do armády a navlečený do uniformy je však regulérním, „povoleným“ vojenským cílem.
Ale zpět k dohodám o válčení. Vznikly zpravidla po nějaké válce a měly zmírnit lidské neštěstí případně i regulovat užívání zbraní, které beztak všichni měli. Avšak umělá inteligence je novinka. Kdo by ji teď chtěl omezovat nebo se jí dokonce vzdát?
V padesátileté historii Evropské kosmické agentury (ESA) se teprve nyní stalo, že tato mezivládní organizace získala do rozpočtu prakticky tolik peněz, kolik chtěla – 22,1 miliardy eur. Je to o třetinu víc než pro minulé tříleté období. A poprvé ve své historii bude agentura připravovat projekty určené i pro vojenské účely, shrnuje v analýze pro Newstream vědecký novinář Josef Tuček.
Evropská kosmonautika má vyšší rozpočet. A poprvé si otevřeně klade vojenské cíle
Názory
Vzpoura v Silicon Valley
Snaha o autonomii na bojišti není nová. Již v roce 1943 používaly USA proti německým ponorkám torpédo, které bylo vybaveno mikrofony a samo se navádělo za zvukem motoru. Dnešní systémy využívají AI k rozpoznání cílů, navigaci k nim a jejich zničení s minimální nebo vůbec žádnou lidskou pomocí. Takovéto drony a další zbraně jsou teď nasazeny nad ukrajinským bojištěm stejně jako ve válce proti Íránu. Na rozdíl od lidského operátora reagují v milisekundách, což je ve válce rozhodující výhoda.
Na rizika nešikovného využití či rovnou zneužití AI při vedení vojenské operace upozorňují i její tvůrci. Společnost Anthropic se nedávno dostala do sporu s americkým Pentagonem, když odmítla povolit využití svého modelu Claude pro autonomní zbraně a také pro možné masové sledování vlastních občanů. Pentagon následně firmu označil za „riziko pro dodavatelský řetězec“. Anthropic poté oznámil, že se s administrativou bude soudit.
Mimochodem, takto zásadový Anthropic v minulosti nebyl, jeho šéf Dario Amodei říkal, že právě AI může Americe zajistit vojenskou převahu nad Čínou a jinými autokraciemi.
Oproti tomu firmy jako OpenAI a Google zmírnily svá dřívější prohlášení proti vojenskému využití svého softwaru, což vyvolalo vlnu protestů i rezignací tisíců zaměstnanců.
Opatrné znepokojení nad vývojem i postojem administrativy projevili představitelé společností jako Nvidia, Microsoft, Apple či Amazon.
Americké ministerstvo obrany naplnilo svou hrozbu a oficiálně označilo technologickou společnost Anthropic za riziko pro dodavatelský řetězec. Rozhodnutí má okamžitou platnost a zakazuje vládním dodavatelům používat technologie firmy Anthropic při plnění zakázek pro americkou armádu, napsala agentura Reuters.
Trumpova vláda označila firmu Anthropic za riziko pro dodavatelský řetězec
Zprávy z firem
Nevyčíslitelné svědomí versus hněv Donalda Trumpa
Ve hře jsou, kromě vlastního svědomí, které se ovšem špatně vyčísluje, pochopitelně peníze. Vojenské dodávky mohou být finančně prima. Pokud by ale znechutily jiné zákazníky, kteří by přešli k „nevojenské“ konkurenci, mohou naopak v celkovém součtu představovat ztrátu. Tohle musí manažeři zvážit.
Ovšem postavit se nevypočitatelnému Donaldu Trumpovi hrozí malérem – však také významní představitelé byznysového světa kolem prezidenta snaživě panáčkují, aby se na ně nerozzlobil. A Donald Trump dává najevo, že mezinárodní dohody, ať už jakékoli, ho nijak zvlášť neomezují.
Do téhle situace přichází editorial časopisu Nature s výzvou, aby svět přijal dohodu o regulaci využití AI ve vojenských konfliktech. Je asi nutné to požadovat. Ale nikoho nepřekvapí, že něco takového se hned tak nepovede.
Z důvodů objektivních i velmi subjektivních se lidé bouří proti stavbám velkých datových center. Investoři do umělé inteligence se tedy budou muset s jejich odporem vypořádat. Případně datová centra přestěhovat do severských končin nebo až do vesmíru, což podle nových propočtů nemusí být tak obtížné, jak by se zdálo.
Umělá inteligence potřebuje datová centra, ale lidé je nechtějí. Naštěstí se dají postavit ve vesmíru
Názory
