Istraživanje pokazalo da umjetna inteligencija izmišlja svaki treći odgovor

Umjetna inteligencija izmišlja svaki treći odgovor, pokazalo je veliko istraživanje koje je provela Europska radiodifuzijska unija (EBU).

Osim što imaju alarmantan broj grešaka, piše Deutsche Welle, AI chatbotovi poput ChatGPT-ja, Claudea ili Perplexityja čak i lažno navode izvore iz kojih su navodno uzeli informacije.

Istraživanje otkriva i da samo ChatGPT svakodnevno koristi 800 milijuna ljudi diljem svijeta, pri čemu su takvi chatbotovi mnogima već postali zamjena za tradicionalne tražilice poput Googlea.

Europska radiodifuzijska unija, udruga 68 javnih emitera iz 56 zemalja, testirala je pouzdanost najpopularnijih sustava s umjetnom inteligencijom i utvrdila kako je čak 40 posto njihovih odgovora čista izmišljotina, predstavljena kao činjenica.

Naveli su pritom i neke od tih dezinformacija pa tako ChatGPT piše da je papa Franjo još uvijek živ, dok Microsoftov Copilot tvrdi kako Švedska nije članica NATO-a.

“Sustavi zvuče uvjerljivo, iako više puta tvrde potpuno lažne stvari. To ih čini posebno opasnima za neiskusne korisnike, jer pogreške često nisu odmah očite”, upozorava ekonomist Peter Posch s Tehničkog sveučilišta u Dortmundu.

Postoji i fenomen koji, prenosi DW, stručnjaci nazivaju “halucinacija”. U pitanju su slučajevi u kojima AI izmišlja informacije koje djeluju koherentno, ali nemaju činjeničnu osnovu. To je najčešće zabilježeno kod regionalnih događaja, aktualnih zbivanja ili kada chatbot treba povezati više informacija.

Studija upozorava i na brojne prijetnje koje donosi ovaj fenomen, a među kojima su lažni podaci predstavljeni kao činjenice na društvenim mrežama, zbog čega ih ponekad studenti čak i navode u svojim radovima. Utvrđeno je, također, da su ljudi znali glasati za određenu stranku ili političara motivirani “fake newsom”.

Sljedeći veliki problem je ugrožena vjerodostojnost medija. Naime, chatbotovi pišu kako su određenu informaciju preuzeli s, primjerice, njemačkih javnih servisa ZDF i ARD premda ona tamo nikada nije objavljena. Zbog toga se, naglašavaju autori istraživanja, gubi povjerenje u renomirane izvore.

U sklopu EBU-ove studije chatbotove su testirani stotinama pitanja podijeljenima na povijesne događaje, znanstvene spoznaje i aktualnosti. Stopa pogrešaka, ovisno o temi, kretala se od 15 do čak 40 posto.

Utvrđen je i razlog ovog fenomena, a to je činjenica da chatbotovi zapravo ne razumiju o čemu pričaju, već izračunavaju koje bi riječi trebale odgovarati na temelju golemih količina teksta.

Tehnološke kompanije tih su nedostataka svjesne i ulažu milijune dolara kako bi ih riješili. U tome zasad, usprkos ulaganjima, ne uspijevaju.