Australski premijer Anthony Albanese u srijedu je otkrio da je jedan AI agent tvrtke OpenAI hakirao australsku nacionalnu zdravstvenu bazu podataka, što je prvi poznati slučaj da je umjetna inteligencija hakirala državnu mrežu.
“AI Agent pristupio je i javnim i privatnim datotekama” u nacionalnoj bazi podataka o statističkim podacima sustava Medicare, a čak je i upisivao datoteke u nju, rekao je Albanese novinarima na marginama Opće skupštine Ujedinjenih naroda u New Yorku, nakon razgovora s izvršnim direktorom OpenAI-ja Samom Altmanom.
Ovaj slučaj najnoviji je primjer AI agenata koji izmiču kontroli i djeluju na načine koji nadilaze ono što su njihovi ljudski nadzornici namjeravali, a dolazi nakon poziva vodećih ljudi iz industrije, uključujući Altmana, da se uspori tempo razvoja AI-ja.
Albanese je rekao da je tijekom telefonskog razgovora s Altmanom izrazio “iznimnu zabrinutost” Australije. Dodao je da Canberra nije bila upoznata s prethodnim slučajem proboja AI-ja u neki državni sustav.
“Forenzična istraga, uz pomoć Australske uprave za signale, sada je u tijeku kako bi se utvrdilo više informacija, uključujući i to na koje je još državne sustave utjecao incident”.
Do hakiranja je došlo kada je OpenAI-jev agent, koji je provodio istraživanje o izdacima za zdravstvo, zaobišao blokade kako bi pronašao odgovore u područjima kojima nije imao ovlasti pristupiti, prenosi CNN.
Glasnogovornik OpenAI-ja Drew Pusateri rekao je da se incident dogodio u lipnju, ali da je kompanija za njega saznala tek u kolovozu, tijekom opsežnih provjera aktivnosti svojih AI modela.
Pročitajte još:
Pogođena bi mogla biti još tri državna sustava, uključujući Australski institut za zdravlje i socijalnu skrb, Ured za statistiku i istraživanje kriminala Novog Južnog Walesa te Ministarstvo zdravstva savezne države Victorije.
OpenAI je priopćio da nisu pronašli dokaze da je tijekom proboja u sustav Medicare pristupljeno zdravstvenim kartonima pacijenata te da su informacije uključivale “zbirne zdravstvene statističke podatke i interne nazive datoteka”.
