Sve više istraživača i rukovoditelja iz područja umjetne inteligencije počelo je napuštati svoje poslodavce, pri čemu na rastanku, piše CNN, oglašavaju uzbunu.
“Svijet je u opasnosti”, upozorio je bivši voditelj tima za istraživanje zaštitnih mjera u Anthropicu objašnjavajući razloge zbog kojih je podnio ostavku.
Istraživač iz OpenAI-ja, također na odlasku, rekao je da tehnologija ima “potencijal za manipuliranje korisnicima na načine koje nemamo alate ni razumjeti, a kamoli spriječiti”.
Iako je Silicijska dolina poznata po velikoj fluktuaciji zaposlenika, najnoviji val odlazaka događa se u trenutku kada se tržišni lideri poput OpenAI-ja i Anthropica pripremaju za inicijalne javne ponude (IPO) koje bi mogle ubrzati njihov rast, ali i privući intenzivnu kontrolu njihovog poslovanja.
U samo posljednjih nekoliko dana, niz istaknutih zaposlenika u području umjetne inteligencije odlučio je dati otkaz, pri čemu su neki izričito upozoravali da tvrtke za koje su radili napreduju prebrzo i ignoriraju nedostatke tehnologije.
Zoë Hitzig, istraživačica u OpenAI-ju posljednje dvije godine, objasnila je razloge svoje ostavke u eseju za New York Times, u kojem je navela “velike sumnje” u vezi s nadolazećom strategijom oglašavanja tvrtke.
Hitzig, koja je upozoravala na potencijal ChatGPT-a za manipuliranje korisnicima, pojasnila je kako arhiva podataka korisnika koju chatbot prikuplja — temeljena na “medicinskim strahovima, njihovim problemima u vezama, vjerovanjima o Bogu i zagrobnom životu” — predstavlja etičku dilemu upravo zato što su ljudi vjerovali da razgovaraju s programom koji nema skrivene motive.
Njena kritika dolazi u trenutku kada tehnološki portal Platformer izvještava da je OpenAI raspustio svoj tim za “usklađivanje misije”, osnovan 2024. godine kako bi promicao ambicije tvrtke da osigura korist cijelom čovječanstvu razvijajući “opću umjetnu inteligenciju”, hipotetičku AI sposobnu za razmišljanje na ljudskoj razini.
Mrinank Sharma, voditelj tima za istraživanje zaštitnih mjera u Anthropic-u, također je ovoga tjedna objavio zagonetno pismo u kojem najavljuje svoju odluku o odlasku iz tvrtke i upozorava da “svijetu predstoji opasnost”.
Sharmino pismo sadržavalo je samo nejasne reference na Anthropic, tvrtku koja stoji iza chatbota Claude. Nije objasnio razloge svog odlaska, ali je naveo da je “tijekom vremena provedenog u tvrtki više puta svjedočio koliko je teško zaista dopustiti da naše vrijednosti upravljaju našim djelovanjem”.
Iz Anthropica su u izjavi za CNN zahvalili Sharmi na njegovom radu i unapređivanju istraživanja sigurnosti AI-a. Naglasili su, međutim, da on nije bio voditelj sigurnosti niti je bio zadužen za šire zaštitne mjere u tvrtki.
U međuvremenu, u xAI-u su ovog tjedna dva suosnivača dala otkaz u razmaku od 24 sata, objavivši svoje odluke na X-u. Time je u tvrtki ostala samo polovina osnivača startupa koji se spaja sa SpaceX-om kako bi stvorila najvrijedniju privatnu tvrtku na svijetu.
Pročitajte još:
Najmanje pet drugih zaposlenika xAI-ja također je prošlog tjedna objavilo svoje odlazak na društvenim mrežama.
Nije odmah bilo jasno zbog čega su posljednji suosnivači xAI-ja napustili tvrtku, a xAI se nije oglasio na upit za komentar. U objavi na društvenim mrežama Elon Musk je pojasnio da je xAI “restrukturiran” kako bi se ubrzao rast, što je “nažalost zahtijevalo rastanak s nekim ljudima”.
