Kalifornija uvela prvi američki zakon o sigurnosti umjetne inteligencije

Guverner Kalifornije Gavin Newsom u ponedjeljak je potpisao zakon kojim se od OpenAI-ja, tvorca ChatGPT-a, i drugih velikih tvrtki zahtijeva da otkriju kako planiraju ublažiti moguće katastrofalne rizike svojih naprednih AI modela.

“Kalifornija je dom vodećih AI kompanija, uključujući OpenAI, Google, Metu, Nvidiju i Anthropic, a ovim zakonom želi preuzeti vodstvo u regulaciji industrije ključne za njezino gospodarstvo”, pojasnio je Newsom.

Iz Newsomovog ureda su naveli da zakon, poznat kao SB 53, popunjava prazninu koju je ostavio američki Kongres, koji do sada nije donio sveobuhvatan zakon o umjetnoj inteligenciji, te nudi model koji bi SAD mogao slijediti.

Ako se uvedu savezni standardi, dodao je Newsom, zakonodavno tijelo države trebalo bi “osigurati usklađenost s tim standardima – a pritom zadržati visoku razinu koju je postavio SB 53”.

Prošle godine Newsom je stavio veto na prvi pokušaj usvajanja zakona o umjetnoj inteligenciji, koji je naišao na snažan otpor industrije.

Prema njemu bi tvrtke koje su uložile više od 100 milijuna dolara u svoje AI modele morale angažirati neovisne revizore svake godine kako bi pregledali procjene rizika, čime bi se omogućilo izricanje kazni u stotinama milijuna dolara.

Novi zakon zahtijeva od tvrtki s prihodom većim od 500 milijuna dolara da procijene rizik hoće li se njihova napredna tehnologije oteti ljudskoj kontroli ili pomoći u razvoju biološkog oružja, nakon čega te procjene moraju učiniti javno dostupnima. Zakon omogućuje novčane kazne do milijun dolara po prekršaju.

Jack Clark, suosnivač AI tvrtke Anthropic, nazvao je zakon “čvrstim okvirom koji uravnotežuje javnu sigurnost s kontinuiranim inovacijama”.

Prošle godine, prijedlog nekih republikanaca u američkom Kongresu da se državama onemogući regulacija AI-a odbijen je u Senatu s rezultatom 99-1.

“Najveća opasnost SB 53 je što postavlja presedan da države, a ne savezna vlada, preuzmu vodstvo u reguliranju nacionalnog AI tržišta – stvarajući mozaik od 50 različitih sustava usklađenosti koje startupi nemaju resurse pratiti”, upozorio je Collin McCune, voditelj odnosa s vladom u venture capital firmi Andreessen Horowitz iz Silicijske doline.

Zakon o umjetnoj inteligenciji u Europskoj uniji je stupio na snagu u kolovozu prošle godine i njegova postupna primjena teče do 2027. kada bi trebao do kraja zaživjeti.

Isti propisuje da su sve države članice obvezne Europskoj komisiji prijaviti koja nacionalna tijela će nadzirati provedbu AI zakona i kontrolirati tržišni nadzor.

Također, za generativne AI modele, poput velikih jezičnih modela, propisane su posebne obveze u pogledu sigurnosti, transparentnosti i energetske učinkovitosti. Tvorci ovih modela moraju pružiti detaljne informacije o podacima koji se koriste za treniranje i osigurati da modeli ne uzrokuju štetu korisnicima.

Kršenje ovog zakona velike tvrtke bi moglo koštati do 35 milijuna eura ili sedam posto ukupnog godišnjeg globalnog prihoda prekršitelja, dok su za manja i srednja poduzeća predviđene nešto blaže kazne.