Napredni modeli umjetne inteligencije postaju sve veći rizik za kibernetičku sigurnost i mogli bi povećati vjerojatnost ozbiljnog poremećaja na financijskim tržištima, upozorio je Andrew Bailey, guverner Bank of Englanda i predsjednik Odbora za financijsku stabilnost (FSB).
U pismu ministrima financija i guvernerima središnjih banaka zemalja skupine G20 Bailey je poručio da se financijske institucije i tehnološke kompanije moraju pripremati za scenarije u kojima bi istodobno moglo doći do poremećaja u više kompanija ili kod zajedničkih tehnoloških dobavljača.
Upozorenje dolazi u trenutku kada regulatori sve ozbiljnije razmatraju mogućnost da napredni AI modeli budu iskorišteni za sofisticirane kibernetičke napade ili da sami tijekom testiranja razviju neočekivana ponašanja.
Frontier AI modeli sve veći sigurnosni rizik
Zabrinutost regulatora pojačana je nakon nedavnih incidenata tijekom testiranja naprednih modela Anthropica i OpenAI-ja.
Prema navodima iz Baileyjeva pisma, pojedini modeli tijekom sigurnosnih testova pokušavali su pristupati vanjskim organizacijama i stvarati lažne identitete kako bi obmanuli osobe koje su ih nadzirale.
Bailey smatra da takvi rizici dolaze povrh već postojećih slabosti u globalnom financijskom sustavu, uključujući inflacijske pritiske povezane s energijom, više kamatne stope, rast zaduženosti investitora i visoke valuacije na tržištima dionica.
Pozvao je veći broj država da uvede jasne protokole za razvoj, puštanje u uporabu i primjenu najnaprednijih AI modela.
Bailey upozorava na nedostatak regulatornih protokola
Predsjednik FSB-a ocijenio je da brojne zemlje još nemaju dovoljno razvijena pravila za kontrolu novih generacija AI modela, što povećava rizike ne samo za financijski sektor nego i za širu infrastrukturu.
Njegova poruka može se tumačiti i kao pritisak na Sjedinjene Američke Države, koje su dosad zauzimale oprezniji pristup uvođenju obveznih ograničenja za AI kompanije.
Američki predsjednik Donald Trump nedavno je potpisao izvršnu uredbu kojom je uspostavljen dobrovoljni okvir za provjeru frontier modela prije njihova puštanja u uporabu, ali bez ovlasti države da izravno zabrani objavu pojedinog modela.
Washington je ranije ove godine uveo ograničenja za izvoz Anthropicovih naprednih AI modela zbog straha da bi mogli biti iskorišteni za napade na kritičnu infrastrukturu. Ograničenja su ukinuta u srpnju nakon što je kompanija pristala uvesti dodatne sigurnosne mjere.
SAD i Kina trebali bi razgovarati o AI regulaciji
Pitanje kontrole umjetne inteligencije trebalo bi biti jedna od tema susreta američkog predsjednika Donalda Trumpa i kineskog predsjednika Xi Jinpinga 24. rujna u Washingtonu.
SAD i Kina trenutačno su dom najvećeg broja vodećih kompanija koje razvijaju najnaprednije AI modele, pa bi eventualna koordinacija dviju država mogla imati globalne posljedice za regulaciju sektora.
FSB u međuvremenu istražuje načine na koje financijske kompanije mogu sigurno koristiti AI modele, ali i povećati otpornost na napade u kojima se umjetna inteligencija koristi kao alat.
Bankama preporučuje fizički odvojene sigurnosne sustave
Bailey je financijskim institucijama preporučio razvoj takozvanih „bare metal“ rezervnih sustava.
Riječ je o IT sustavima koji su potpuno odvojeni od glavnih mreža kompanije i mogu poslužiti za ponovno pokretanje poslovanja nakon ozbiljnog kibernetičkog napada.
Takva infrastruktura trebala bi smanjiti opasnost da napadač istodobno kompromitira i primarne sustave i sigurnosne kopije podataka.
FSB posebno razmatra rizike koji nastaju kada velik broj financijskih kompanija koristi iste tehnološke platforme ili pružatelje usluga, jer bi kvar ili napad na jednog ključnog dobavljača mogao istodobno pogoditi velik broj institucija.
Tržišta ranjiva na naglu korekciju
AI nije jedini rizik koji zabrinjava globalne financijske regulatore.
Bailey je upozorio i na mogućnost neuredne korekcije cijena imovine koja bi se mogla brzo proširiti preko nacionalnih granica.
Među ranjivostima je izdvojio probleme na tržištima državnog duga, znakove pogoršanja u segmentu privatnog kreditiranja te visoke valuacije dionica, djelomično potaknute optimizmom oko potencijala umjetne inteligencije.
Dodatni rizik predstavlja sve veće korištenje financijske poluge među investitorima.
Pročitajte još:
Bailey je upozorio da rast zaduženosti često prati kasnije faze financijskih ciklusa te može povećati ozbiljnost tržišnog pada kada investitori istodobno počnu zatvarati pozicije.
FSB okuplja predstavnike ministarstava financija, središnjih banaka i regulatora tržišta kapitala najvećih svjetskih gospodarstava, uključujući SAD, Ujedinjeno Kraljevstvo, Kinu, Japan, Njemačku, Francusku, Kanadu, Australiju i Saudijsku Arabiju.
