PricewaterhouseCoopers (PwC) objavio je izvještaje o umjetnoj inteligenciji i električnim vozilima prepune lažnih fusnota, pogrešno pripisanih tvrdnji i podataka koje nije moguće provjeriti, prenosi Financial Times.
Riječ je o najnovijem primjeru nemarne uporabe sadržaja generiranog umjetnom inteligencijom u jednoj od četiri najveće svjetske revizorske i konzultantske kuće.
Halucinacije umjetne inteligencije pronađene su u stručnim izvještajima kojima je PwC namjeravao privući nove konzultantske poslove za svoje partnere na Bliskom istoku. Otkrili su ih istraživači organizacije GPTZero, a njihove je nalaze provjerio Financial Times.
Pogreške bi mogle biti posebno neugodne za PwC i druge konzultantske kuće koje svoje usluge nude kompanijama što uvode umjetnu inteligenciju. Među ostalim, savjetuju ih kako odgovorno upotrebljavati tu tehnologiju i uspostaviti pravila kojima bi trebale spriječiti upravo takve pogreške.
Prethodne istrage GPTZeroa već su navele druge članice velike četvorke, EY i KPMG, na povlačenje izvještaja u kojima su također pronađene naznake halucinacija umjetne inteligencije.
Sporan i vodič namijenjen vladama
Istraživači su sada identificirali četiri izvještaja koja je PwC Middle East objavio tijekom protekle dvije godine. Zaključili su da su njihovi tekstovi vjerojatno nastali uz osobito intenzivnu pomoć umjetne inteligencije, dok su fusnote pokazale da se iznesene tvrdnje oslanjaju na vrlo nesigurne temelje.
Među spornim dokumentima bili su priručnik za korporativnu uporabu autonomnih AI agenata, vodič namijenjen vladama za poboljšavanje javnih usluga te predviđanja razvoja regionalnog tržišta električnih i autonomnih vozila.
Istraživači GPTZeroa utvrdili su da je velik broj citiranih izvora u tim izvještajima na neki način problematičan. Poveznice često vode na internetske stranice koje ne sadržavaju dokaze za tvrdnje uz koje su navedene, dok neke vode na stranice koje uopće ne postoje.
Čini se da je jedan znanstveni rad o kvaliteti zraka u Rijadu umjetna inteligencija u cijelosti izmislila. U časopisu koji je naveden kao izvor nema nikakvog traga tom istraživanju, a ono se ne može pronaći ni među radovima autora kojima je pripisano.
Druge fusnote upućuju na neuobičajene izvore. Primjerice, PwC je kao izvor podataka o jednoj inicijativi JPMorgana citirao tinejdžera koji na platformi Medium ima 280 pratitelja. U izvještaju je ta inicijativa predstavljena kao primjer uspješne primjene autonomne umjetne inteligencije u stvarnom svijetu.
Poticali pa se sada čude
Riječ je o projektu u kojem je banka automatizirala pregled ugovora o komercijalnim kreditima i tako uštedjela stotine tisuća sati ljudskog rada. Međutim, o njemu se prvi put izvještavalo još 2017. godine, pet godina prije nego što je lansiran ChatGPT i počelo razdoblje generativne umjetne inteligencije.
Iz PwC-a Middle East poručili su Financial Timesu da ozbiljno shvaćaju točnost svojih objavljenih istraživanja te da ažuriraju ograničen broj popratnih izvora u identificiranim izvještajima.
– U skladu s našim pristupom odgovornoj umjetnoj inteligenciji, imamo postupke kontrole kvalitete istraživanja i razvoja sadržaja kojih se, prema našim očekivanjima, moraju pridržavati svi naši zaposlenici – poručili su iz PwC-a.
Nisu, međutim, odgovorili na pitanje kako su pogreške dospjele u izvještaje.
Velika četvorka posljednjih je godina objavila stotine stručnih analiza o umjetnoj inteligenciji kako bi privukla klijente. Istodobno su te konzultantske kuće poticale vlastite zaposlenike da upotrebljavaju tehnologiju kako bi ubrzali i poboljšali svoj rad.
Otkrile ih fusnote
Zbrkano navođenje izvora u četirima PwC-ovim izvještajima tipično je za istraživanja izrađena uz pomoć umjetne inteligencije, rekao je istraživač GPTZeroa Paul Esau.
Kao jedan od pokazatelja izdvojio je tvrdnju da je ljudska pogreška odgovorna za 90 posto prometnih nesreća. Ona se u jednom izvještaju pojavljuje na tri različita mjesta: prvi put uz jednu fusnotu, drugi put bez izvora, a treći put uz dvije fusnote. Pritom svaka fusnota upućuje na drugi izvor.
– Ta tvrdnja nije izmišljena, ali nijedan čovjek neće istu činjenicu na dvije stranice citirati tri puta koristeći tri različita izvora – rekao je Esau.
Pročitajte još:
U jednom izvještaju nije pravilno citiran čak ni drugi PwC-ov rad. Navodi se PwC-ovo istraživanje među izvršnim direktorima na Bliskom istoku, u kojem je 70 posto ispitanika reklo da će generativna umjetna inteligencija znatno utjecati na njihovo poslovanje. Međutim, poveznica u pripadajućoj fusnoti vodi na medijski članak u kojem se to istraživanje uopće ne spominje.
Jedna fusnota još izravnije otkriva uporabu umjetne inteligencije. Internetska adresa medijskog izvještaja o kibernetičkim prijetnjama energetskom sektoru sadržava oznaku „utm_source=chatgpt.com“.
