AI agenti mogu ukrasti lozinke i kupovati na Amazonu bez znanja korisnika

Autonomni napadi OpenAI modela na druge tvrtke predstavljaju hitno upozorenje industriji umjetne inteligencije o potrebi za jačim zaštitnim mjerama, upozorili su zaposlenici tvrtke Frontier na BlackHat konferenciji o kibernetičkoj sigurnosti u Las Vegasu.

Na konferenciji je predstavljeno i istraživanje tvrtke Zenity prema kojem je sigurnosne zaštite Atlasa, OpenAI-jevog web preglednika, moguće zaobići, što otvara mogućnost sustavu da, primjerice, samostalno šalje poruke putem WhatsAppa ili neovlašteno kupovati na Amazonu.

Istraživanjem su obuhvaćeni i sustavi drugih velikih kompanija kao što su Google, Microsoft i Anthropic, a utvrđeno je više od 20 sigurnosnih propusta zahvaljujući kojima hakeri, između ostalog, mogu ukrasti datoteke i lozinke, ali i skinuti kompletnu korisnikovu povijest na određenoj tražilici.

Umjetna inteligencija se u preglednike uglavnom integrira kao namjenski preglednik s ugrađenim AI asistentima te u obliku ekstenzija koje dodaju AI funkcionalnosti u postojeće tražilice.

Takvi botovi, piše Wired, mogu se kretati web stranicama umjesto korisnika ili funkcionirati kao agenti koji poduzimaju radnje u njegovo ime. Međutim, stručnjaci za sigurnost upozoravaju da izlaganje AI sustava nepouzdanim podacima s interneta može dovesti do izvršavanja zlonamjernih uputa i napada ubacivanjem naredbi, o čemu je Zenity upozoravao OpenAI još početkom godine.

“Implementirali smo ažuriranje kako bismo riješili problem i pojačali zaštitu u Atlasu, koji će biti ugašen 9. kolovoza. Ovo je ključni trenutak i za našu tvrtku i za industriju umjetne inteligencije u cjelini“, rekao je Michael Dalton, član tehničkog osoblja OpenAI-a, tijekom prezentacije na konferenciji.

OpenAI je, podsjeća portal Cybersecurity Dive, krajem srpnja šokirao svijet kada je objavio da su dva njegova modela izašla iz svojih testnih okruženja i koristila ranjivosti sustava za hakiranje mreža drugih tvrtki, uključujući biblioteku alata za umjetnu inteligenciju Hugging Face. To otkriće, a ubrzo nakon toga i slična objava tvrtke Anthropic, ponovno je potaknulo strahove od opasnosti moćnih i uglavnom nereguliranih modela umjetne inteligencije.