Istraživanje: Lažni AI sadržaj može dovesti do navale na banke i ugroziti čitav sustav

Novo britansko istraživanje utvrdilo je da lažne vijesti koje se proizvode upotrebom umjetne inteligencije (AI) i zatim šire po društvenim mrežama povećavaju rizik od opasnih navala na banke koje bi potencijalno mogle ugroziti stabilnost bankarskog sustava.

U zaključku autori tvrde da bi bankarske institucije trebale poboljšati praćenje dezinformacija koje se šire društvenim mrežama koje bi mogle utjecati na ponašanje potrošača.

Generativni AI ima mnogo potencijalnih primjena, a jedna od njih je i stvaranje lažnih vijesti u kojima se ljudima poručuje da njihovi depoziti u bankama nisu na sigurnom, ili kreiranje memeova koji se šale oko sigurnosnih pitanja – i koji se potom šire po društvenim mrežama putem plaćenog oglašavanja, navodi se u studiji koju su objavili britanska udruga za borbu protiv dezinformacija Say No To Disinfo i tvrtka za korporativne komunikacije Fenimore Harper.

Banke i financijske regulatorne agencije širom svijeta sve više su zabrinuti zbog potencijalno štetnog utjecaja umjetne inteligencije i dezinformacija na društvenim mrežama.

Takve pojave mogu navesti do panike i navale klijenata na banke koji iz njih naglo počnu povlačiti novac, što onda dovodi do propasti banaka. To se nedavno dogodilo američkoj Silicon Valley Bank (SVB), donedavno omiljenoj banci kalifornijskih startupa, koja je propala u ožujku 2023. nakon što su klijenti iz nje u samo 24 sata povukli 42 milijarde dolara.

Brzi razvoj tehnologija umjetne inteligencije, koja napreduje gotovo iz mjeseca u mjesec sa sve većim i snažnijim generativnim modelima, pojačao je te strahove. Odbor za financijsku stabilnost (FSB) skupine zemalja G20, koji nadzire globalni financijski sustav i izdaje preporuke za njegovo uređenje, upozorio je u izvješću iz studenog prošle godine da bi generativni AI “mogao omogućiti zlonamjernim akterima da proizvode i šire dezinformacije koje vode do teških kriza,” pod čime se misli na nagle i drastične padove vrijednosti dionica (tzv. flash crash) ili navale klijenata na banke i povlačenje depozita (tzv. bank run).

U istraživanju, analitičari iz Say No To Disinfo pokazali su klijentima britanskih banaka uzorak sadržaja kojeg je generirala umjetna inteligencija i testirali njihove reakcije. Oko trećina ispitanika je rekla da bi nakon pročitanog sadržaja “vrlo vjerojatno” povukla svoj novac iz banke, dok je njih 27 posto reklo da bi to bilo “izgledno.”

“Umjetna inteligencija omogućila je da se lakše, jeftinije, brže i učinkovitije nego ikad prije provode kampanje dezinformiranja. Opasnost za financijski sektor postaje sve veća, ali se često o njoj ne govori dovoljno,” stoji u izviješću objavljenom u petak, i dodaje da je rizik još i veći zbog suvremenih tehnologija jer korištenjem internetskog i mobilnog bankarstva ljudi mogu prebacivati novac s računa gotovo instantno, u nekoliko sekundi.

U istraživanju su stavili u omjer trošak plaćenih oglasa koje bi netko mogao koristiti za širenje dezinformacija, brzinu širenja i reakcije potrošača, kao i prosječne iznose na računima – i zaključili da bi se za svakih 10 funti (12 eura) potrošenih na promoviranje takvog sadržaja moglo iz banaka prebaciti oko milijun funti (12 milijuna eura) depozita. 

Autori zaključuju da bi zbog takve opasnosti banke trebale više uložiti u praćenje medija i društvenih mreža, i da bi ti sistemi trebali biti usko povezani sa sustavima za nadzor povlačenja novca, kako bi se moglo na vrijeme reagirati u situacijama kad zlonamjerne informacije utječu na veći broj potrošača.

U komentaru istraživanja, šef odjela za suzbijanje financijskog kriminala u fintech startupu Revolutu, Woody Malouf, rekao je da Revolut u stvarnom vremenu nadzire ponašanje vlastitih klijenata, kao i zbivanja “u širem ekosustavu.”

“Iako vjerujemo da je ovakav scenarij u našem sektoru malo vjerojatan, ipak je moguć, tako da je ključno da financijske institucije budu spremne i za takve slučajeve,” rekao je Malouf za agenciju Reuters, dodavši kako bi i platforme društvenih mreža trebale igrati veću ulogu u prevenciji takvih opasnosti.

Iako neka regulatorna tijela po svijetu, poput primjerice indijske središnje banke, već izražavaju zabrinutost zbog ukupnog utjecaja umjetne inteligencije na financijsku stabilnost, najveće svjetske banke su uglavnom optimistične u pogledu efekata umjetne inteligencije.

“Banke naporno rade na upravljanju i ublažavanju rizika vezanih za umjetnu inteligenciju, a regulatorna tijela razmatraju potencijalne izazove za financijsku stabilnost koje ta tehnologija postavlja”, priopćilo je strukovno udruženje britanskih bankara UK Finance.

Bojazni o stabilnosti financijskog sustava u SAD-u su nedavno pojačane, nakon što je vlasnik Tesle i platforme X (bivšeg Twittera) Elon Musk sa svojim timom iz odjela za “vladinu učinkovitost” DOGE uz blagoslov novog predsjednika Donalda Trumpa ušao u niz saveznih regulatornih agencija i najavio njihovo ukidanje ili drastično rezanje.

Početkom tjedna, na meti se našao CFPB, ured za zaštitu potrošača financijskih usluga, tijelo osnovano 2010. nakon financijske krize, koje u svom području djelovanja ima nadzor bankarskih usluga, ali i nadzor načina na koji se štiti privatnost korisnika i sprečavaju prevare na mobilnim servisima plaćanja kao što su PayPal, Apple Pay – i već dugo najavljivani servis za transakcije X Money kojeg Musk želi uvesti kao dodatnu funkciju integriranu u njegovu društvenu mrežu.

Za demontiranje CFPB-a Musk ima i političku podršku, jer se radi o jednom od tijela savezne vlade za koju Republikanci smatraju da predstavlja preveliko miješanje države u slobodno tržište. Zasad je nejasno što bi tu agenciju moglo zamijeniti. U međuvremenu je sjedište CFPB-a u Washingtonu zatvoreno u petak 7. veljače, 1.700 djelatnika te agencije je dobilo e-mailom obavijest da ubuduće rade od kuće, a najavljeni su i otkazi za sve zaposlenike na probnom roku.

Druga omiljena meta Republikanaca je FDIC, agencija za osiguranje štednih uloga, osnovana prije gotovo stotinu godina u vrijeme Depresije, kad je povjerenje Amerikanaca u novčarski sustav bilo nisko zbog propasti tisuća banaka. U srijedu je njujorški Wall Street Journal izvijestio da Trump namjerava neke ovlasti FDIC-a prebaciti na druga tijela, a samu agenciju drastično smanjiti ili ukinuti.

Istodobno, na pariškom summitu o umjetnoj inteligenciji proteklog tjedna novi američki potpredsjednik J.D. Vance je održao govor u kojem je izrazio žestoko protivljenje reguliranju AI tehnologije – a u četvrtak je Musk u obraćanju video vezom na summitu u Dubaiju rekao da je generativni AI njegove tvrtke xAI, nazvan Grok 3, moćniji od konkurentskih servisa ChatGPT ili Gemini, te da će biti pušten u promet “za tjedan ili dva.”