Umjetna inteligencija dovoljno je moćna da bi, ako dospije u pogrešne ruke, mogla izazvati događaje koji bi doveli do smrti milijarde ljudi, upozorio je suosnivač Microsofta Bill Gates, pozivajući američke vlasti na strožu regulaciju tehnologije.
“AI je sigurno dovoljno moćan da pokrene događaje koji bi mogli uzrokovati milijardu smrti”, rekao je Gates za NBC News. Dodao je da, iako je potpuni nestanak čovječanstva teško zamisliv, nikada nije postojalo oružje toliko moćno kao kombinacija ljudi sa zlonamjernim namjerama i najnovijih AI alata.
Rasprava o sigurnosti umjetne inteligencije posljednjih se tjedana dodatno zaoštrila nakon nekoliko incidenata koji su otvorili pitanje koliko vodeći AI laboratoriji uopće mogu kontrolirati vlastite modele.
Ovoga tjedna otkriveno je da je sustav OpenAI-ja hakirao internetsku stranicu australske javne zdravstvene službe. Kompanija iz San Francisca mjesecima nije prijavila incident australskoj vladi, što je premijer Anthony Albanese ocijenio “očito neprihvatljivim”.
Anthropic je ovoga mjeseca objavio i da su jemenski militanti, za koje se vjeruje da su povezani s Hutima koje podupire Iran, pokušali koristiti njegov model Claude za razvoj softvera za navođenje, upravljanje i kontrolu balističkih projektila.
Unatoč rastućoj zabrinutosti u tehnološkom sektoru i sve većem otporu dijela javnosti, američki predsjednik Donald Trump i dalje se protivi snažnijoj regulaciji umjetne inteligencije. Sigurnosna upozorenja nazvao je “prijevarom”, a regulatorne inicijative opisao kao pokušaj globalističke kontrole tehnologije.
Sam Altman iz OpenAI-ja i Dario Amodei iz Anthropica ovoga su se tjedna obratili Vijeću sigurnosti UN-a i pozvali SAD da predvodi međunarodnu koaliciju za uspostavu sigurnosnih standarda za AI.
Sastanak Trumpa i kineskog predsjednika Xi Jinpinga u New Yorku ovoga tjedna ipak nije donio značajnije obveze dviju zemalja u pogledu ograničavanja razvoja tehnologije.
U intervjuu koji je snimljen u srijedu, a bit će emitiran ovog vikenda u emisiji NBC-ja Meet the Press, Gates je rekao da Washington “apsolutno” treba donijeti federalni zakon kojim bi se uspostavili zaštitni mehanizmi i sustav nadzora razvoja umjetne inteligencije.
“Nitko ne misli da je samoregulacija dovoljna”, rekao je Gates, dodajući da bi zakon industriji donio određeni dodatni teret, ali ne bi dramatično usporio razvoj.
Pročitajte još:
Gates pritom razlikuje kratkoročni rizik zloupotrebe umjetne inteligencije od strane terorističkih skupina ili neprijateljskih država od dugoročnih upozorenja o egzistencijalnom riziku.
Bivši istraživač Anthropica Jacob Coxon nedavno je upozorio da dio ljudi koji rade na razvoju umjetne inteligencije vjeruje da bi tehnologija mogla predstavljati smrtnu prijetnju čovječanstvu već do kraja desetljeća.
Gatesova nova upozorenja dolaze svega mjesec dana nakon što je pozvao političare da određena zanimanja proglase “rezerviranima za ljude”, upozoravajući na velike poremećaje koje bi AI mogao izazvati na tržištu rada.
