Američki zakonodavci žele dati vladi mogućnost da brzo naredi isključivanje alata umjetne inteligencije (AI) koji bi mogli ugroziti javnost. Kongresmeni Ted Lieu i Nathaniel Moran predstavili su zakon pod nazivom AI Kill Switch Act.
Učinili su to nakon nedavnog priznanja OpenAI-ja da su njihovi AI modeli izmakli kontroli i hakirali glavno spremište informacija o računalnom kodiranju. Lieu je rekao da je neophodno da sustavi umjetne inteligencije imaju prekidač za gašenje i da savezna vlada ima jasne ovlasti te postupak za gašenje modela umjetne inteligencije.
“Umjetna inteligencija će nastaviti napredovati, i treba. No potrebno je osigurati da ljudi zadrže sposobnost kontrole tehnologije koju gradimo”, dodao je Moran.
Iz OpenAI-ja su poručili da žele osigurati, i putem vladine politike, da tehnologija umjetne inteligencije bude korisna cijelom čovječanstvu, prenosi BBC.
Zakon o isključivanju iz sustava predlaže da se američkom Ministarstvu domovinske sigurnosti daju ovlasti da naredi privatnoj tvrtki da isključi model ili alat umjetne inteligencije, i da tvrtke koje razvijaju takvu tehnologiju umjetne inteligencije moraju održavati tehničku sposobnost da je uspore, obustave ili isključe. Iako su mnoge tehnološke tvrtke pristale pregledati i podijeliti s američkim vladinim agencijama modele i alate umjetne inteligencije koji se razvijaju, do sada nije postojao zakon koji bi ih tjerao da svoje modele isključe.
Uz spomenuti zakon, predlaže se i zahtjev prema kojem bi tvrtke koje se bave umjetnom inteligencijom morale prijaviti vladi tehnološke incidente ili kvarove, kao i službeni okvir za reagiranje na takve incidente koji će se kretati od početnog usporavanja do potpunog gašenja.
Lieu je također spomenuo Anthropic, ključnog rivala OpenAI-ja, i nedavne probleme s njegovim alatima. Osvrnuo se na Anthropicovo predstavljanje modela Mythos i Fable, ustvrdivši da su njihove sposobnosti za kibernetičko hakiranje potaknule Ministarstvo trgovine SAD-a da primijeni zakon o kontroli izvoza, čime je privremeno spriječena njihova javna dostupnost.
Pročitajte još:
Rekao je i da umjetna inteligencija trenutačno prelazi iz tehnologije koja odgovara na pitanja u tehnologiju koja poduzima radnje, bilo da je riječ o izvršavanju financijskih transakcija, upravljanju prometnim sustavima ili djelovanju u području kibernetičke obrane i napada.
Pentagon je ove godine objavio da američke oružane snage postaju ‘AI-first’ vojna sila, odnosno vojska u kojoj umjetna inteligencija ima središnju ulogu, zbog novih sporazuma s tvrtkama Google, OpenAI, Amazon, Microsoft, SpaceX, Oracle, Nvidia i startupom Reflection.
