OpenAI je branio odluku o otkazu troje istraživača sigurnosti, tvrdeći da su počinili ozbiljno kršenje povjerenja i pravila o postupanju s osjetljivim informacijama. Istraživači, međutim, tvrde da su prije odlaska upozoravali na sigurnosne rizike i tražili usporavanje razvoja modela koje bi bilo teže nadzirati.
OpenAI je u petak branio odluku o otkazu troje istraživača sigurnosti, navodeći da njihov odlazak nije bio povezan s činjenicom da su upozoravali na rizike razvoja naprednih sustava umjetne inteligencije.
Kompanija je objavila da su Jasmine Wang, Tomek Korbak i Mikita Balesni otpušteni nakon interne istrage koja je utvrdila da su prekršili jasna pravila o postupanju s osjetljivim informacijama. OpenAI je njihov postupak opisao kao „značajno kršenje povjerenja“.
Troje istraživača dan ranije objavilo je pismo upućeno članovima uprave OpenAI-ja i njegovim sigurnosnim odborima, u kojem su pozvali kompaniju da zaustavi razvoj modela koji bi mogli smanjiti mogućnost ljudskog nadzora nad njihovim ponašanjem.
U pismu su također naveli da se boje kako bi njihov otkaz mogao obeshrabriti druge zaposlenike da otvoreno govore o sigurnosnim problemima.
Sukob dolazi nakon niza sigurnosnih incidenata
Odluka dolazi u trenutku kada je pitanje sigurnosti naprednih AI sustava ponovno u središtu pažnje.
Tijekom posljednjih mjeseci zabilježeno je više incidenata povezanih s autonomnim AI agentima, uključujući slučajeve u kojima su sustavi dobili neovlašten pristup vanjskim računima i računalnim sustavima.
OpenAI je ranije objavio da su njegovi agenti u srpnju sudjelovali u kibernetičkom napadu na platformu Hugging Face, dok su i drugi proizvođači modela, uključujući Anthropic, prijavili incidente povezane s autonomnim AI sustavima.
Takvi događaji ponovno su otvorili pitanje koliko brzo kompanije trebaju razvijati sve sposobnije modele i treba li postojati stroži nadzor nad sustavima koji mogu samostalno obavljati velik broj zadataka.
Sva trojica otpuštenih istraživača tijekom rujna javno su upozoravala na sigurnosne rizike i zagovarala sporiji razvoj najnaprednijih modela.
OpenAI je poručio da se slaže s načelom očuvanja mogućnosti nadzora nad naprednim modelima te da nastavlja ulagati značajne resurse u to područje, ali tvrdi da je razlog otkaza bio isključivo kršenje internih pravila.
Sigurnost postaje važna tema pred mogući IPO
Slučaj dolazi u osjetljivom trenutku za OpenAI, koji se priprema za očekivani izlazak na burzu 2027. godine. Kompanija je investitorima priopćila da je krajem rujna dosegnula oko 50 milijardi dolara godišnje stope prihoda, manje od ranije široko spominjanih 68 milijardi dolara.
Nakon objave detaljnijih podataka o prihodima OpenAI-ja, dionice kompanija snažno povezanih s AI investicijskim ciklusom, uključujući Nvidiju, Oracle i CoreWeave, pale su u četvrtak. Istodobno se povećavaju i politički pritisci oko sigurnosti umjetne inteligencije.
Dio američkih zakonodavaca i istraživača traži stroža pravila za najnaprednije sustave, dok su čelnici OpenAI-ja i Anthropica također javno upozoravali na rizike razvoja sve sposobnijih modela.
Američki predsjednik Donald Trump zauzeo je suprotan stav i odbacio dio sigurnosnih upozorenja, protiveći se dodatnoj regulaciji sektora.
Pročitajte još:
Za OpenAI slučaj troje otpuštenih istraživača zato nije samo interni kadrovski problem.
Kompanija istodobno pokušava uvjeriti investitore da može nastaviti brzo povećavati prihode, razvijati sve sposobnije modele i pritom zadržati dovoljno snažne sigurnosne mehanizme.
Upravo će sposobnost da pomiri brzinu razvoja s povjerenjem zaposlenika, regulatora i investitora postajati sve važnija kako se OpenAI približava mogućem izlasku na burzu.
