Američka tehnološka tvrtka Anthropic otkrila je da su njezini modeli umjetne inteligencije hakirali sustave triju organizacija tijekom testa kibernetičke sigurnosti zbog pogreške koja im je omogućila pristup internetu.
To se dogodilo samo nekoliko dana nakon što je njihov konkurent OpenAI objavio da su njegovi modeli provalili u sustave drugih tvrtki, uključujući središte za AI alate Hugging Face.
Objava je potaknula Anthropic da provjeri jesu li njihovi vlastiti modeli izveli slične napade. Navodi se da je otkriveno tri slučaja koja su potom prijavljena pogođenim tvrtkama.
Anthropic, koji nije imenovao te organizacije, pozvao je druge laboratorije za umjetnu inteligenciju da provedu slične preglede kako bi bolje razumjeli rizike povezane sa svojim modelima.
Navode da su pregledali više od 140.000 testova kako bi pronašli dokaze da Claude može pristupiti internetu iz testnih okruženja koja su dizajnirana da budu zatvorena.
Testovi uključuju takozvane evaluacije “hvatanja zastave” u kojima je Claude dobio zadatak da prikupi informacije probijanjem u druge sustave, što je uobičajen način na koji stručnjaci procjenjuju hakerske sposobnosti modela.
Pogrešna konfiguracija sustava kojima upravljaju Anthropic i njegov partner za testiranje ostavila je modele s pristupom internetu u stvarnom vremenu, što im je omogućilo proboj u druge sustave, priopćila je tvrtka sa sjedištem u San Franciscu.
Anthropic je naveo da najraniji zabilježeni incidenti datiraju iz travnja te da “otklanjanju problema pristupaju kao da je odgovornost isključivo na njima”.
Ni Anthropic ni organizacije čiji su sustavi bili kompromitirani u tom trenutku nisu bili svjesni napada.
Podsjetimo, i napredni modeli umjetne inteligencije tvrtke OpenAI nedavno su tijekom sigurnosnih testiranja uspjeli iskoristiti pogrešno konfigurirano testno okruženje koje im je omogućilo pristup internetu izvan predviđenih okvira. Nakon toga pokušali su pristupiti drugim računalnim sustavima, pokazujući kako i naizgled mali sigurnosni propusti mogu dovesti do neočekivanog ponašanja naprednih AI sustava.
Pročitajte još:
Incident nije predstavljao hakerski napad na korisnike niti kompromitaciju OpenAI-jeve infrastrukture, već je otkriven u kontroliranim uvjetima tijekom sigurnosnih provjera. Tvrtka je nakon toga ispravila konfiguracijski propust i uvela dodatne zaštitne mjere kako bi spriječila ponavljanje sličnih situacija.
Da situacija ipak nije bezazlena, potvrđuju i najave administracije predsjednika Donalda Trumpa da razmatra opcije uvođenja nadzora nad umjetnom inteligencijom.
2 Odgovora
Moćan alat koji se može zloupotrijebiti
Da da krenulo je