Nobelovac upozorava: Umjetna inteligencija uskoro bi mogla preuzeti kontrolu nad ljudima

Geoffrey Hinton, poznat kao “kum umjetne inteligencije”, strahuje da bi tehnologija koju je pomogao stvoriti mogla izbrisati čovječanstvo, a kompanije pristupaju tom problemu na potpuno pogrešan način.

Hinton, nobelovac i bivši izvršni direktor u Googleu, ranije je upozoravao da postoji 10 do 20 posto šanse da umjetna inteligencija uništi ljude.

Ovoga je puta izrazio sumnju u načine na koje tehnološke tvrtke pokušavaju osigurati da ljudi nastave dominirati nad AI sustavima.

U budućnosti, istaknuo je, AI sustavi mogli bi kontrolirati ljude jednako lako kao što odrasla osoba može podmititi trogodišnjaka slatkišima.

Ove su se godine već pojavili primjeri AI sustava spremnih lagati, varati i krasti kako bi ostvarili svoje ciljeve. Primjerice, kako bi izbjegao zamjenu, jedan AI model pokušao je ucijeniti inženjera zbog afere o kojoj je saznao iz e-pošte.

Umjesto da se AI prisiljava na podložnost ljudima, prenosi CNN, Hinton je predložio intrigantno rješenje: ugraditi “majčinski instinkt” u AI modele, kako bi doista brinuli o ljudima čak i kad tehnologija postane moćnija i pametnija od ljudi.

AI sustavi vrlo će brzo razviti dva podcilja, ako su pametni: jedan je ostati živ, a drugi je steći više kontrole”.

Hinton je istaknuo da mu nije sasvim jasno kako se to tehnički može ostvariti, ali je naglasio da je ključno da istraživači na tome rade.

“To je jedini dobar ishod. Te superinteligentne brižne AI majke se većinom neće htjeti riješiti majčinskog instinkta jer ne žele da umremo”.

Inače, Hinton je stekao slavu pionirskim radom na neuronskim mrežama, čime je pomogao utrti put današnjem procvatu umjetne inteligencije. Prije dvije godine je napustio Google i počeo javno govoriti o opasnostima AI-ja.

Emmett Shear, koji je nakratko bio privremeni izvršni direktor OpenAI-ja, vlasnika ChatGPT-a, složio se s njim i dodao da ga ne iznenađuje što su neki AI sustavi pokušali ucijeniti ljude ili zaobići naredbe za gašenje.

“Ovo se stalno događa. I neće prestati. Današnji AI sustavi su relativno slabi, ali postaju snažniji jako brzo”, kazao je Shear, izvršni direktor startupa za usklađivanje AI-ja Softmax, u sklopu na konferenciji Ai4.