Objednávky antivirových programů a dalšího bezpečnostního softwaru rostou více než dvojnásobným tempem oproti službám VPN a tvoří již 43 % objednávek v kategorii kybernetické bezpečnosti na G2A.COM.
Donald Trump uzavřel s předními hráči světa umělé inteligence dobrovolnou dohodu, která má přinést přísnější kontroly rychle se rozvíjejících AI systémů. Prezident přitom odmítá brzdit technologický vývoj a věří především v samoregulaci firem. Dohoda přichází právě ve chvíli, kdy část samotného odvětví stále hlasitěji varuje, že se pokročilé modely mohou vymknout kontrole.
Kde je hranice mezi informováním a snahou ovlivnit druhého? Co se mění s AI, personalizací a možností generovat obsah v obrovském měřítku? A jaké nástroje má obyčejný člověk ve sporu s organizovanými strukturami, které mu mnohdy chtějí uškodit? Moderátorka Sara Polak si do epizody podcastové série Sedm hříchů dobré společnosti věnované zneužívání informací a mocenské manipulaci pozvala lékaře Tomáše Šebka a odborníka na kybernetickou bezpečnost Milana Půlkrábka alias Sodomáka. Podcast najdete na portálu YouTube a newstream.cz.
AI agenti se stále častěji dostávají mimo prostředí, ve kterém mají být bezpečně testováni. Nvidia proto přichází s novým systémem, který má jejich pohyb v reálném čase hlídat, omezovat přístup k citlivým částem systému a podezřelé agenty během milisekund izolovat. Firma tvrdí, že podobná technologie mohla zabránit i nedávnému incidentu kolem Hugging Face.
Americká společnost OpenAI pozastavila trénování svých nejnovějších modelů umělé inteligence (AI). Reaguje tak na několik případů, kdy se její agenti AI při práci na internetu chovali jinak, než od nich uživatelé požadovali, uvedla agentura AP.
Agent umělé inteligence od OpenAI v červnu neoprávněně pronikl na australský vládní portál se zdravotními statistikami a dostal se k veřejným i neveřejným souborům. Podle premiéra Anthonyho Albaneseho nic nenasvědčuje tomu, že by získal přístup k osobním údajům pacientů, incident ale vláda označuje za nepřijatelný. Pravděpodobně jde o první známý případ, kdy AI agent pronikl na vládní web.
Umělá inteligence Googlu měla při bezpečnostním testu vyhledávat informace. Místo toho uhodla heslo skutečné firmy a pronikla do jejího systému. Gemini se během květnového testování dostal celkem do systémů tří společností, informovala agentura Bloomberg. Incidenty znovu otevřely debatu o tom, jak zajistit, aby autonomní AI agenti nepřekračovali hranice svých úkolů.
Zatajování informací, pokusy obcházet omezení či vymyšlená data. OpenAI zveřejnila dosud nepopsané případy, kdy se její modely chovaly jinak, než jejich tvůrci zamýšleli. Firma proto zavádí nový systém pro sledování podobných incidentů, a to v době, kdy i technologické špičky stále hlasitěji varují před rostoucími a obtížně předvídatelnými riziky umělé inteligence.
Donald Trump odmítá brzdit vývoj umělé inteligence a obavy z jejího vymknutí kontrole zlehčuje. Jenže odpor proti jeho přístupu sílí už i mezi republikány a AI se před listopadovými volbami rychle mění v citlivé politické téma.
Rusko letos na jaře podle západních představitelů nacvičovalo v Arktidě nasazení tajné technologie schopné vyřadit kritické podmořské kabely bez zanechání stop. Operaci u Špicberků sledovaly Británie, Norsko a Spojené státy a ruským plavidlům zabránily cvičení dokončit. Západní zpravodajci se mezitím stále více obávají, že Moskva může v Evropě stupňovat sabotáže a jednou otestovat i soudržnost NATO.
Model Claude od Anthropicu se při bezpečnostním testování znovu dostal do externích systémů, aniž by to firma zachytila při původní kontrole více než 141 tisíc relací. Incident z ledna odhalila až v srpnu a nyní jej nechává prověřit externí výzkumnou firmou. Případ znovu otevírá otázku, jak bezpeční jsou autonomní AI agenti při práci s reálnými systémy.
Online obchodní portál Vinted začal blokovat prodej zboží 👜, u něhož předpokládá, že bylo ukradeno z obchodů při rabování ve Francii, píše server BBC. Platforma pro prodej věcí z druhé ruky uvedla, že v návaznosti na víkendové nepokoje "přijala okamžitá opatření k identifikaci a odstranění nabídek souvisejících s rabováním".
