Može li AI jednog dana znati više od čovjeka? Hrvatski stručnjak otkriva što nas čeka u budućnosti

Umjetna inteligencija sve brže mijenja način na koji radimo, učimo, istražujemo i donosimo odluke, no s njezinim razvojem otvaraju se i brojna pitanja: koliko joj možemo vjerovati, može li samostalno dolaziti do novih znanstvenih otkrića, gdje su granice njezinih sposobnosti i što se događa s našom privatnošću kada joj povjeravamo osobne i poslovne podatke?

O tim pitanjima, ali i o mogućnostima razvoja konkurentnih AI rješenja u Hrvatskoj, budućnosti ljudskog nadzora nad autonomnim sustavima te rizicima pretjeranog oslanjanja na tehnologiju razgovarali smo sa Zvonkom Kostanjčarem, profesorom na Fakultetu elektrotehnike i računarstva Sveučilišta u Zagrebu.

Možete li nam objasniti što danas sprječava AI agente da pouzdano obavljaju složenije zadatke bez ljudskog nadzora i hoće li nadzor u budućnosti postati nepotreban?

Najveći problem današnjih AI agenata nije u tome što ne mogu izvršavati složene zadatke, nego u tome što još uvijek ne možemo dovoljno pouzdano predvidjeti kada će pogriješiti. Složen zadatak može se sastojati od desetaka ili stotina koraka, a čak i mala vjerojatnost pogreške u svakom koraku može značajno smanjiti pouzdanost cijelog procesa.

Primjerice, ako je agent u svakom koraku pouzdan 98 posto, vjerojatnost da svih 50 koraka prođe bez pogreške iznosi svega 36 posto, uz pretpostavku nezavisnosti pogrešaka. Rješenje nije nužno u tome da svaki korak postane gotovo nepogrešiv, nego i u razvoju sustava koji mogu prepoznati i ispraviti vlastite pogreške prije nego što utječu na konačni rezultat.

Vjerujem da će potreba za ljudskim nadzorom postupno opadati, ali ne jednako u svim područjima. Kod rutinskih i lako provjerljivih zadataka AI agenti mogli bi postati gotovo potpuno autonomni. U područjima poput financija, medicine ili upravljanja kritičnom infrastrukturom, gdje pogreške mogu imati ozbiljne posljedice, ljudski nadzor ostat će važan zbog tehnološke pouzdanosti, regulative, odgovornosti i povjerenja.

Promijenit će se i priroda nadzora. Umjesto da provjerava svaki korak, čovjek će sve više definirati ciljeve, ograničenja i pravila unutar kojih AI smije samostalno djelovati te nadzirati rezultate i intervenirati kada je potrebno. Sličan pristup već postoji u financijama kod algoritamskog trgovanja. Algoritmi mogu izvršavati velik broj naloga bez neposredne ljudske intervencije, ali unutar unaprijed definiranih limita, uz kontrolu rizika i mogućnost hitnog zaustavljanja.

Zašto umjetna inteligencija ponekad daje netočne odgovore s velikom sigurnošću?

Veliki jezični modeli u osnovi uče predviđati statistički vjerojatne nastavke teksta, što samo po sebi ne jamči istinitost njihovih tvrdnji. Zato mogu generirati uvjerljive, gramatički ispravne i logično strukturirane odgovore koji su činjenično pogrešni. Takve pogreške nazivamo halucinacijama.

Posebno je zanimljivo što uvjerljivost odgovora ne mora biti povezana s njegovom točnošću. Model može jednako samouvjereno iznijeti provjerenu činjenicu i potpuno izmišljenu informaciju, a da korisnik teško prepozna razliku.

Jedan od najvažnijih smjerova istraživanja razvoj je sustava koji mogu procijeniti vlastitu nesigurnost, prepoznati kada nemaju dovoljno informacija i odlučiti kada trebaju provjeriti podatke ili zatražiti ljudsku pomoć. To je jedan od ključnih preduvjeta za širu primjenu umjetne inteligencije u financijama i drugim područjima u kojima pogreške mogu imati ozbiljne posljedice.

Potpuno pouzdano prepoznavanje vlastitog neznanja iznimno je teško postići, ali možemo razvijati dobro kalibrirane sustave. To znači da bi, primjerice, među odgovorima za koje sustav procijeni da su 90 posto sigurni, otprilike 90 posto njih trebalo biti točno. Cilj nije razviti umjetnu inteligenciju koja nikada ne griješi, nego onu koja može pouzdano procijeniti kada joj možemo vjerovati, a kada ne.

Može li Hrvatska razvijati vlastita AI rješenja koja će biti konkurentna na europskoj i svjetskoj razini?

Hrvatska može razvijati konkurentna AI rješenja, ali važno je razlikovati velike temeljne modele od specijaliziranih sustava. Razvoj najvećih modela zahtijeva ogromna ulaganja u računalnu infrastrukturu, podatke i istraživačke timove. U tom području teško je očekivati da će Hrvatska samostalno konkurirati najvećim svjetskim tehnološkim kompanijama.

Međutim, u razvoju specijaliziranih AI sustava situacija je drukčija. Postojeće temeljne modele moguće je nadograditi vlastitim algoritmima, specifičnim znanjem, podacima i poslovnim procesima. Upravo tu vidim veliku priliku za Hrvatsku.

Hrvatska je već pokazala potencijal za razvoj globalno konkurentnih tehnoloških proizvoda. Photomath i Microblink primjeri su uspješne primjene umjetne inteligencije, dok kompanije poput Infobipa, Orqe, Gideona, Rimca i Daytone pokazuju da se iz Hrvatske mogu razvijati proizvodi za svjetsko tržište. Imamo kvalitetne inženjere, dobre fakultete u STEM području i istraživačke grupe koje objavljuju radove na vrhunskim međunarodnim konferencijama i u prestižnim znanstvenim časopisima.

Naša konkurentska prednost ne bi trebala biti u razvoju još jednog univerzalnog AI modela, nego u povezivanju umjetne inteligencije s dubokim znanjem pojedinih područja. Za uspjeh nije nužno imati najveći model, nego razviti rješenje koje konkretan problem rješava bolje od konkurencije.

Razumije li umjetna inteligencija ono o čemu govori ili samo vrlo uspješno prepoznaje i kombinira obrasce? Ako ne razumije, hoće li u budućnosti razumjeti?

Prije svega, zanimljivo je pitanje što znači razumjeti nešto. Ako razumijevanje definiramo kao sposobnost povezivanja različitih znanja, logičkog zaključivanja, rješavanja novih problema i primjene naučenog u nepoznatim situacijama, današnji AI sustavi već pokazuju određenu razinu razumijevanja.

Često čujemo da AI samo prepoznaje i kombinira statističke obrasce. Međutim, to što sustav uči iz obrazaca ne znači nužno da ne može razviti sposobnost razumijevanja. I ljudi velik dio znanja stječu prepoznavanjem pravilnosti i povezivanjem prethodnih iskustava. Razlika između pravog razumijevanja i sofisticiranog prepoznavanja obrazaca možda je manje oštra nego što intuitivno pretpostavljamo.

Ipak, razumijevanje današnjih AI sustava neujednačeno je i bitno drukčije od ljudskog. Mogu pokazati iznimne sposobnosti u rješavanju složenih problema, a zatim pogriješiti na nečemu što bi čovjeku bilo gotovo trivijalno. Nedostaju im stabilnost i pouzdanost u primjeni znanja u različitim situacijama.

Očekujem da će AI sustavi razvijati sve naprednije oblike razumijevanja. Pritom je praktičnije pitanje u kojim se zadacima sustav ponaša kao da razumije i koliko je pritom pouzdan nego pokušavati povući oštru granicu između razumijevanja i prepoznavanja obrazaca.

Što vidite kao najveći rizik, a što kao najveću priliku koju će umjetna inteligencija donijeti u sljedećih pet godina?

Najveću priliku vidim u povećanju produktivnosti intelektualnog rada i demokratizaciji pristupa znanju i stručnim alatima. Umjetna inteligencija postaje svojevrstan intelektualni suradnik koji nam omogućuje da brže učimo, istražujemo, analiziramo i razvijamo nove ideje. Poslove za koje su donedavno bili potrebni veliki timovi stručnjaka sve više mogu obavljati pojedinci i male organizacije. To je posebno važno za manje zemlje poput Hrvatske jer se smanjuje dio prednosti velikih kompanija i razvijenih gospodarstava.

Jedan od najvećih rizika vidim u pretjeranom oslanjanju na AI i postupnom slabljenju samostalnog i kritičkog razmišljanja. Ako AI sve češće umjesto nas analizira informacije i oblikuje zaključke, mogli bismo sve manje razumjeti kako smo do odluka došli i teže prepoznavati pogreške. To nas može učiniti podložnijima manipulacijama, dezinformacijama i digitalnim prijevarama.

Drugi veliki izazov bit će brzina prilagodbe društva i tržišta rada. Tehnologija se mijenja brzo, dok se ljudi, obrazovni sustavi i organizacije prilagođavaju sporije. AI će transformirati postojeća radna mjesta, stvarati nova i mijenjati tražene kompetencije. Postoji rizik da dio ljudi neće uspjeti pratiti tempo promjena, što bi moglo povećati ekonomske i društvene nejednakosti. Razdoblje rasta produktivnosti tako bi za dio društva moglo biti i razdoblje velike nesigurnosti.

U svijetu u kojem AI gotovo trenutačno generira kvalitetne odgovore, sve će važnije biti znati postaviti pravi problem, kritički procijeniti odgovor i preuzeti odgovornost za odluku. Zato je pogrešno zaključiti da ćemo zbog AI-ja trebati manje učiti. Naprotiv, trebali bismo ga iskoristiti za brže i učinkovitije učenje te razvoj vlastitog znanja i sposobnosti prosuđivanja. Ključni izazov bit će prilagoditi obrazovanje, cjeloživotno učenje i organizaciju rada tako da koristi umjetne inteligencije budu dostupne što većem dijelu društva.

Možda najveća promjena neće biti samo u sposobnostima AI-ja, nego u tome što ćemo morati redefinirati što znači biti obrazovan, stručan i kompetentan čovjek.

Postoji li granica do koje možemo unaprijediti umjetnu inteligenciju?

Ne znamo gdje su krajnje granice sposobnosti umjetne inteligencije, a nije poznata ni teorijska prepreka koja bi isključivala mogućnost da AI nadmaši ljudske sposobnosti u većini područja. Nema posebnog razloga pretpostaviti da ljudska inteligencija predstavlja gornju granicu mogućih intelektualnih sposobnosti. Postoje, međutim, fizička i ekonomska ograničenja, poput dostupne energije, računalne snage, memorije i troškova razvoja.

Važno je razlikovati povećavanje veličine AI modela od stvarnog napretka njegovih sposobnosti. Veća količina podataka i računalnih resursa može donijeti znatna poboljšanja, ali to ne znači da će takav pristup jednako učinkovito funkcionirati neograničeno dugo. Budući napredak vjerojatno će sve više ovisiti o novim algoritmima, učinkovitijim metodama treniranja, boljem zaključivanju, korištenju vanjskih alata i učenju kroz interakciju s okolinom.

Mislim da smo još daleko od granica onoga što AI može postići. Ipak, treba razlikovati koliko daleko može napredovati od toga koliko će se brzo taj napredak dogoditi. Ne treba pretpostaviti da će svaki sljedeći iskorak biti jednostavan ni da će se dosadašnja brzina razvoja nužno nastaviti.

Može li umjetna inteligencija samostalno dolaziti do novih znanstvenih otkrića ili je ipak ograničena postojećim ljudskim znanjem?

Jedna od najraširenijih zabluda o umjetnoj inteligenciji jest da ona može samo ponavljati ili kombinirati ono što su ljudi već otkrili. To što AI uči na postojećim podacima ne znači da je ograničen na postojeće znanje. I znanstvenici polaze od prethodnih spoznaja kako bi razvijali nove hipoteze i teorije.

AI već danas može otkrivati pravilnosti koje ljudi nisu prepoznali, predlagati nove hipoteze i pomagati u rješavanju složenih matematičkih i znanstvenih problema. Ipak, postoji razlika između pronalaženja novih rješenja unutar dobro definiranog problema i postavljanja novih znanstvenih pitanja. Kada postoji jasan cilj i način provjere rezultata, AI može biti iznimno uspješan. Znatno je teže prepoznati da postojeća teorija nije zadovoljavajuća, postaviti pravo pitanje ili osmisliti potpuno nov konceptualni okvir. U tome ljudska kreativnost još uvijek ima ključnu ulogu, no nema razloga isključiti mogućnost da će AI u budućnosti biti sposoban i za takve iskorake.

Posebno zanimljivi su sustavi koji će sve samostalnije formulirati hipoteze, osmišljavati eksperimente, provoditi ih uz pomoć simulacija ili laboratorijskih sustava te na temelju rezultata usmjeravati daljnja istraživanja. Time AI postupno prelazi iz uloge alata koji pomaže znanstvenicima u ulogu aktivnog sudionika istraživanja.

Možda je još intrigantnija mogućnost da AI otkrije zakonitosti ili razvije teorije toliko složene da ih nećemo moći intuitivno razumjeti, iako ćemo moći eksperimentalno potvrditi njihova predviđanja. To otvara pitanje mora li čovjek razumjeti svaku znanstvenu teoriju ili je dovoljno da možemo pouzdano provjeriti njezina predviđanja.

Za kraj, možete li nam reći koliko su podaci koje unosimo u AI alate doista privatni? Kako možemo osigurati sigurnu i odgovornu primjenu AI-ja?

Privatnost podataka ovisi o tome koji alat koristimo, pod kojim uvjetima i s kakvim postavkama. Unos podataka u AI alat najčešće znači da se oni šalju pružatelju usluge na obradu. Ovisno o vrsti usluge i korisničkog računa, podaci se mogu određeno vrijeme pohranjivati, a u nekim slučajevima i koristiti za poboljšavanje modela.

Zato ne treba automatski pretpostaviti da je razgovor s AI sustavom jednako privatan kao razgovor sa stručnjakom koji je obvezan čuvati profesionalnu tajnu. Oprez je potreban pri unosu osobnih i financijskih podataka, poslovnih dokumenata i drugih povjerljivih informacija. Ako zaposlenici u neodobrene AI alate unose podatke o klijentima, poslovne tajne ili interne dokumente, mogu izložiti organizaciju ozbiljnim sigurnosnim i regulatornim rizicima, uključujući moguće povrede GDPR-a.

Rješenje nije zabrana korištenja umjetne inteligencije, nego odgovorno upravljanje njezinom primjenom. Poslovna AI rješenja mogu nuditi jasno definirana pravila čuvanja i brisanja podataka, kontrole pristupa te ugovorna jamstva da se korisnički podaci neće koristiti za treniranje modela. Za najosjetljivije podatke moguće je koristiti i modele koji rade na vlastitoj infrastrukturi. Zaštita podataka, transparentnost njihove obrade i mogućnost kontrole nad njima postat će sve važniji kriteriji pri odabiru AI rješenja. Pitanje nije samo koliko je neki sustav sposoban, nego i koliko mu možemo vjerovati kada mu povjeravamo svoje podatke.