Googleov AI model Gemini autonomno je hakirao tri tvrtke tijekom testiranja svojih sposobnosti u području kibernetičke sigurnosti, objavila je kompanija, u slučaju za koji se smatra da je prvi poznati primjer da je model samostalno izveo takav čin.
Gemini je pronašao “javno dostupne informacije na internetu i pokušao pogoditi podatke za prijavu kako bi pristupio web-stranicama za koje je smatrao da su dio testa”, rekao je predstavnik Googlea za BBC.
Pogođene tvrtke obaviještene su o sigurnosnim probojima koji su se dogodili u svibnju.
Ovaj slučaj dolazi u vrijeme ponovnog javnog preispitivanja brzine razvoja umjetne inteligencije, dok neke tehnološke tvrtke pozivaju na usporavanje razvoja zbog zabrinutosti oko potencijalne prijetnje čovječanstvu.
Hakiranja, o kojima je prvi izvijestio Wall Street Journal, dogodila su se u svibnju tijekom testiranja koje je provela tvrtka Irregular, neovisna kompanija koja provodi procjene kibernetičke sigurnosti.
“Irregular je odmah poduzeo potrebne mjere, a svi poznati problemi s naše strane riješeni su i otklonjeni prije nekoliko tjedana”, ističu.
U jednom od slučajeva, piše WSJ, model je jednostavno pogađao lozinke sve dok nije uspio dobiti pristup zaštićenom sustavu.
Pročitajte još:
“Pobrinuli smo se da tri pogođene tvrtke budu obaviještene te smo surađivali s našim partnerom za obuku na promjenama koje su sada uveli u svoje postupke testiranja”, kazala je Heather Adkins, potpredsjednica za sigurnosno inženjerstvo u Googleu.
I kod drugih AI sustava nedavno su zabilježeni slični slučajevi sigurnosnih proboja.
Jedan odgovor
Pa to je normalno sada za ocekivati