Google, Microsoft i xAI dijelit će s vladom neobjavljene verzije svojih AI modela kako bi suzbili prijetnje kibernetičkoj sigurnosti, objavio je Nacionalni institut za standarde i tehnologiju u utorak.
Do partnerstva je došlo nakon što je novi snažni AI model Mythos tvrtke Anthropic prošlog mjeseca izazvao zabrinutost oko utjecaja umjetne inteligencije na kibernetičku sigurnost do prijelomne točke, potaknuvši Bijelu kuću da razmotri formalni postupak revizije za AI.
Novi sporazumi omogućuju Centru za standarde i inovacije u području umjetne inteligencije, unutar američkog Ministarstva trgovine, da procjenjuje nove AI modele i njihov potencijalni utjecaj na nacionalnu sigurnost i javnu sigurnost prije njihovog lansiranja.
Centar će, prema CNN-u, također provoditi istraživanja i testiranja nakon što se AI modeli uvedu u upotrebu te je već dovršio više od 40 evaluacija AI modela.
“Neovisna i rigorozna znanstvena mjerenja ključna su za razumijevanje napredne umjetne inteligencije i njezinih implikacija za nacionalnu sigurnost. Ove proširene suradnje s industrijom pomažu nam da povećamo opseg svog rada u javnom interesu u ključnom trenutku”, izjavio je direktor CAISI-ja Chris Fall.
Mythos, za koji Anthropic tvrdi da je “daleko ispred” drugih modela u području kibernetičke sigurnosti, potaknuo je val zabrinutosti među vladama, bankama i komunalnim tvrtkama tijekom proteklog mjeseca.
Pročitajte još:
Tvrtka je objavila da se još ne osjeća spremnom javno objaviti model te ograničava pristup na odabranu skupinu odobrenih organizacija. Također je upoznala visoke dužnosnike američke vlade s njegovim mogućnostima.
OpenAI je također prošlog tjedna objavio da svoje najnaprednije AI modele stavlja na raspolaganje svim provjerenim razinama vlasti s ciljem pravodobnog suzbijanja prijetnji omogućenih umjetnom inteligencijom.
