OpenAI je potvrdio da je upozorio “desetke” institucija diljem svijeta da su njihove web-stranice možda bila kompromitirane zbog nepravilnog djelovanja njegovih AI botova.
Tvrtka je objavila kako su AI agenti pokušavali doći do informacija iz “vlada, sveučilišta, javnih institucija i drugih organizacija”, uključujući američku Komisiju za vrijednosne papire i burzu (SEC), Američki ured za popis stanovništva i Ministarstvo obrazovanja.
Ova otkrića dolaze nekoliko dana nakon što je australski premijer Anthony Albanese objavio da su OpenAI-jevi agenti pristupili privatnim datotekama na stranici australskog državnog zdravstvenog sustava.
Od kolovoza, podsjeća BBC, raste zabrinutost javnosti zbog potencijalno ozbiljnih posljedica AI alata koji izmiču ljudskoj kontroli.
OpenAI je naveo da su dijelu podataka pristupili AI agenti, odnosno svojevrsni botovi osmišljeni i obučeni da djeluju donekle autonomno, koji su nastojali pronaći “mjerodavne izvore javno dostupnih informacija”.
Međutim, neki od tih botova otišli su korak dalje i pokušali zaobići sigurnosne mjere.
Pročitajte još:
Primjerice, pri pokušaju prikupljanja informacija od Američkog ureda za popis stanovništva, AI agenti su koristili alate namijenjene softverskim programerima kako bi im pristupili.
Svi vladini podaci kojima su botovi pristupili bili su javno dostupni, no informacije kojima su botovi pristupili, iz američke Komisije za vrijednosne papire i burzu koja regulira američko tržište dionica i štiti ulagače, AI agenti su kasnije objavili na drugoj web-stranici.
