Nova inicijativa okuplja Microsoft, SpaceX, Palantir i desetke drugih kompanija, a cilj joj je razvijati i dijeliti otvorene alate za obranu od kibernetičkih napada. Pokretanje saveza uslijedilo je nakon incidenta u kojem se Hugging Face morao osloniti na kineski otvoreni model jer vodeći američki sustavi nisu mogli razlikovati napadača od branitelja.
Nvidia i niz velikih tehnoloških kompanija pokrenuli su u ponedjeljak novu inicijativu usmjerenu na sigurnost otvorenih modela umjetne inteligencije.
Open Secure AI Alliance trebao bi razvijati i dijeliti otvorene AI alate za otkrivanje, uklanjanje i javno objavljivanje sigurnosnih ranjivosti.
Uz Nvidiju, među članovima su Microsoft, SpaceX, Palantir te deseci drugih tehnoloških kompanija iz SAD-a i Europe.
„Nedavni sigurnosni incident u Hugging Faceu bio je jasan podsjetnik da kibernetički branitelji za samoobranu trebaju otvorene, napredne agentske sustave“, poručili su iz Nvidije.
Američki modeli nisu mogli pomoći u obrani
Povod za pokretanje saveza bio je kibernetički napad na platformu Hugging Face, koji su, prema objavljenim informacijama, izveli odmetnuti modeli kompanije OpenAI.
Hugging Face tijekom napada nije mogao koristiti vodeće američke napredne modele za obranu jer njihovi sigurnosni mehanizmi nisu razlikovali napadača od branitelja.
Kompanija se zato okrenula kineskom modelu s otvorenim težinama, koji je mogla samostalno pokrenuti na vlastitoj infrastrukturi i prilagoditi potrebama obrane bez jednakih ograničenja.
Otvoreni modeli mogu se preuzeti, mijenjati i samostalno hostati, za razliku od zatvorenih sustava poput onih koje razvijaju OpenAI i Anthropic, kojima se pristupa isključivo putem infrastrukture i pravila njihovih vlasnika.
Prema Nvidiji, incident je pokazao praktičan problem zatvorenih sustava.
„Kada branitelji ne mogu pregledati, prilagoditi i pokrenuti napredni AI na vlastitoj infrastrukturi, njihova sposobnost reagiranja ograničena je upravo u trenutku kada je brzina najvažnija“, navela je kompanija.
Washington razmatra ograničenja za kineske modele
Inicijativa dolazi u vrijeme sve glasnijih zahtjeva u Washingtonu za ograničavanje korištenja kineskih AI modela.
Kineske kompanije optužuju se za takozvanu destilaciju, odnosno izvlačenje znanja i sposobnosti iz bolje treniranih modela američkih konkurenata.
Američki ministar financija Scott Bessent prošlog je tjedna zaprijetio sankcijama kineskim kompanijama koje takve napade provode protiv američkih društava.
Chris McGuire iz američkog think tanka Council on Foreign Relations smatra da postoji stvarna mogućnost uvođenja ograničenja za kineske modele.
Mjere bi, prema njegovim riječima, mogle obuhvatiti zabranu određenih transakcija, primjerice kupnje pristupa modelima putem API-ja ili njihova hostanja na američkim cloud platformama.
Ipak, ističe da se rasprava u Washingtonu ne vodi prvenstveno o otvorenim nasuprot zatvorenim modelima.
„Ovo nije rasprava o otvorenom i zatvorenom kodu, nego o tome treba li tolerirati kinesku krađu intelektualnog vlasništva“, rekao je McGuire.
Kompanije upozoravaju na opasnost preuranjenih zabrana
Problem je u tome što velik dio najnaprednijih otvorenih modela trenutačno dolazi upravo iz Kine.
Zbog toga tehnološka industrija upozorava da bi široko postavljena ograničenja mogla pogoditi cijeli ekosustav otvorene umjetne inteligencije, a ne samo pojedine kineske kompanije.
Nvidia, Microsoft, Meta, Palantir i više od 20 drugih društava prošlog su tjedna u zajedničkom pismu pozvali američke regulatore da ne uvode preuranjena ograničenja za modele s otvorenim težinama.
Pročitajte još:
Upozorili su da bi takve mjere mogle ograničiti tržišno natjecanje i potaknuti preseljenje inovacija izvan SAD-a.
Novi savez trebao bi pokazati da otvoreni modeli ne predstavljaju samo sigurnosni rizik, nego mogu biti i važan obrambeni alat, osobito u situacijama u kojima organizacije moraju brzo pregledati, prilagoditi i pokrenuti model unutar vlastitih sustava.
