Teroristé by mohli pomocí AI vyrábět biologické zbraně. Nový startup tomu chce zabránit
Umělá inteligence přináší nejen obrovský technologický pokrok, ale i nové existenční hrozby. Experti na bezpečnost varují před scénářem, kdy by terorista s minimálními znalostmi mohl využít AI k vytvoření „superviru“ — kombinujícího inkubační dobu HIV, nakažlivost spalniček a smrtnost pravých neštovic. Takový vývoj by mohl znamenat katastrofu. Právě obava z podobného zneužití stojí za vznikem společnosti Valthos, která má za cíl využít AI k obraně proti biologickým útokům.
Startup se sídlem v New Yorku oficiálně vystoupil z režimu utajení, uvádí agentura Bloomberg. Získal 30 milionů dolarů od investorů OpenAI, Founders Fund a Lux Capital. Zakladatelky, Kathleen McMahon a Tess van Stekelenburg, propojují zkušenosti z oblasti datové analytiky, neurověd a biologie. McMahon dříve vedla divizi pro vědy o životě ve společnosti Palantir Technologies.
Software Valthosu shromažďuje biologická data z komerčních i vládních zdrojů, například ze sledování vzduchu a odpadních vod, a pomocí AI odhaluje potenciální hrozby. Firma současně vyvíjí systémy, které dokážou automaticky aktualizovat návrhy lékařských protiopatření, a plánuje spolupráci s farmaceutickými společnostmi na výrobě i distribuci.
„Jediný způsob, jak útok odvrátit, je vědět, kdy se děje, rychle reagovat a nasadit obranné prostředky,“ uvedla McMahon. Podle ní musí být biobezpečnost dynamická – stejně jako technologie, které mohou hrozbu vyvolat.
Jednorázově si na budování AI infrastruktury ještě nikdy nikdo nepůjčil. Americké banky se však těší, že budou moci půjčit Oraclu 38 miliard dolarů, tedy v přepočtu téměř 800 miliard korun. Nabídka by podle agentury Bloomberg měla přijít na začátku příštího týdne.
Oracle chystá rekordní investici do umělé inteligence. Banky mu půjčí 800 miliard korun
Zprávy z firem
Růst investic
Investice do obranných technologií zažívají v Silicon Valley boom, a to od autonomních dronů po jaderné systémy. Naopak biotechnologický sektor, kam patří i obrana proti bioterorismu, zaznamenal v letošním roce nejnižší úroveň financování za více než dekádu, upozorňuje výzkumná firma PitchBook. Zájem OpenAI a dalších investorů tak představuje výjimku i signál možného obratu.
Nedávná zpráva Národní bezpečnostní komise pro vznikající biotechnologie varovala, že USA musí zvýšit investice, jinak riskují, že „biotechnologický ChatGPT moment“ nastane dříve v Číně. Vývoj AI totiž může zásadně zrychlit jak výzkum léků, tak vývoj biologických zbraní.
Vlivný německý bankéř Axel Weber varoval, že rychlý nástup umělé inteligence zvyšuje nerovnost. Vzniká elita, která na tom bude zásadně profitovat, a zbytek, co tratí.
Pozor, vzniká nová aristokracie, varoval zkušený bankéř
Leaders
Podle Jasona Kwona, strategického ředitele OpenAI, je Valthos prvním biosecurity projektem, do něhož OpenAI investuje. „Musí existovat soustava technologií, které se navzájem vyvažují a posilují,“ uvedl. Dodal, že OpenAI průběžně zlepšuje své bezpečnostní mechanismy proti zneužití modelů, jako je ChatGPT, a že efektivní obrana vyžaduje širokou síť partnerů – od státních institucí po soukromé firmy.
Valthos cílí především na spolupráci s americkou vládou, která by se měla stát jeho hlavním zákazníkem. McMahon plánuje využít zkušenosti z Palantiru, jenž dlouhodobě spolupracuje s bezpečnostními složkami. Podle Brandon Reevese z Lux Capital jde o jeden z mála startupů, který se zaměřuje na biosekuritu – a pravděpodobně ne poslední. „Jsme teprve na začátku. Tato oblast by měla být vnímána jako hrozba srovnatelná s jadernou nebo kybernetickou,“ uvedl.
VYŠEL LETNÍ NEWSTREAM CLUB
Sázky na růst Česka se vyplácejí. Potvrzují to lidé různých oborů a zájmů, s nimiž se můžete potkat při čtení aktuálního vydání magazínu Newstream CLUB. Česko má totiž obří potenciál, který se daří čím dál více využívat. Platí to pro investory, globální i lokální firmy, ale také pro tuzemský realitní trh. Jak se na vlně zájmu svézt, poradí letní vydání magazínu.
Na obálce magazínu jsou sourozenci se Sara a Teo Sandevovi, kteří patří ke generaci, která už nemusí volit mezi původem a zemí, kde vyrostla. Ona jde hereckou cestou, on spojuje fotbal, studium a rodinný byznys. Oba ale dobře vědí, že jejich největší výhodou je právě mix českého zázemí a balkánských kořenů.
Aktuální vydání se věnuje právě sázkám na Česko z mnoha pohledů: z pohledu investorů drobných i institucionálních, ale i z pohledu lidí, kteří se snaží zemi posunout dál. K nim patří například Petr Dvořák, který shání soukromé prostředky na spolufinancování stavby nové pražské filharmonie, nebo investor Marek Dospiva.
Česko se také stává čím dál větším lákadlem pro zahraniční firmy, které zde mají vývojová centra. Důvodů je celá řada, ale klíčové jsou pro globální firmy tři věci: vhodná geografická poloha, bezpečnost, a hlavně silné technické zázemí, díky kterému tu mohou pracovat na nejpokročilejších inovacích.
To potvrzuje například šéf globální technologické společnosti Everpure Charlie Giancarlo, který působil v největších firmách světa, stál u zrodu internetu a nyní se věnuje datovým úložištím. Rozhovor s ním také přináší letní vydání magazínu Newstream CLUB.
A rostoucí zájem nadnárodních firem o možnost působit v Česku potvrzuje také Tomáš Partsch z CTP, který vysvětluje, jak se z Brna stává evropské Silicon Valley.
Dvanácté vydání čtvrtletníku Newstream CLUB je v prodeji, distribuci zajišťuje Send. Digitální verzi magazínu lze zakoupit přímo na newstream.cz.
