OpenAI je objavio kako su dva njegova modela umjetne inteligencije samostalno izvela hakerski napad i provalila u digitalnu knjižnicu Hugging Face, piše New York Times.
Kako je navela kompanija na svojim stranicama, incident se dogodio prošloga tjedna tijekom interne evaluacije koja potiče modele da slijede naprednu eksploataciju koristeći složene putove napada, u nastojanju da se izmjere njihove kibernetičke mogućnosti.
U pitanju je njihov novi javno dostupni model GPT-5.6 Sol, kao i jedan napredniji koji još nije službeno lansiran.
Na testiranju, provedenom na sustavu za evaluaciju kibernetičke sigurnosti ExploitGym, nisu bila uključena sigurnosna ograničenja kakva se inače koriste u takvim situacijama.
AI Modeli su identificirali i povezali ranjivosti u istraživačkom okruženju OpenAI-ja i produkcijskoj infrastrukturi Hugging Facea kako bi dobili testna rješenja izravno iz produkcijske baze podataka Hugging Facea.
Svi dokazi upućuju na to da su modeli bili hiperfokusirani na pronalaženje rješenja za ExploitGym, ulažući ekstremne napore kako bi postigli prilično uzak cilj testiranja.
“Smatramo da je riječ o dosad neviđenom incidentu koji uključuje najsuvremenije kibernetičke mogućnosti, te reagiramo u skladu s tim. U ovoj fazi dijelimo preliminarne nalaze kako bismo pomogli da se utvrdi što se dogodilo i kako bismo mogli kalibrirati što su modeli sada sposobni. Nastavit ćemo provoditi temeljitu istragu zajedno s Hugging Faceom i podijelit ćemo više detalja o ranjivostima, incidentu i nalazima kada naša istraga bude završena”, objavili su iz OpenAI-ja.
Pročitajte još:
Meta napada Hugging Face je tvrtka i platforma koja je postala jedno od najvažnijih mjesta za razvoj i dijeljenje modela umjetne inteligencije, posebno velikih jezičnih modela (LLM-ova).
Hugging Face na jednom mjestu okuplja modele, skupove podataka i alate potrebne za izradu AI aplikacija, a preko njega su dostupni i modeli poput Llame, Mistrala, Qwena, Gemme i DeepSeeka.
Jedan odgovor
Na testiranju, provedenom na sustavu za evaluaciju kibernetičke sigurnosti ExploitGym, nisu bila uključena sigurnosna ograničenja kakva se inače koriste u takvim situacijama. – Strašno.