AI agenti se šire brže nego što ih se može vidjeti ili nadzirati, a taj nedostatak vidljivosti postaje sve veći poslovni rizik, pokazalo je najnovije izvješće Microsofta pod imenom “Cyber Pulse”.
Ono daje konkretan uvid u nove kibernetičke rizike koji se mogu pojaviti tijekom svakodnevnog obavljanja radnih zadataka, pri čemu su kao jedan od najozbiljnijih izazova naveli upravljanje.
U Microsoftovom ekosustavu, navodi se u priopćenju, korisnici razvijaju i implementiraju AI agente na svim ključnim platformama, što odražava veći korak prema automatizaciji rada temeljenoj na umjetnoj inteligenciji.
Izrada agenata pritom više nije rezervirana samo za tehničke uloge, odnosno ICT odjel, već ih zaposlenici na raznim funkcijama stvaraju i koriste u svakodnevnom radu.
Microsoftovi podaci pokazuju da više od 80 posto kompanija s liste Fortune 500 koristi aktivne agente izrađene putem low‑code/no‑code alata. Kako se primjena agenata širi, a prilike za transformaciju rastu, autori izvješća upozoravaju kako je sada pravi trenutak za uspostavu temeljnih kontrola.
Usvajanje i korištenje AI agenata ubrzano raste na globalnoj razini: Europa, Bliski istok i Afrika čine 42 posto aktivnih AI agenata, a slijede SAD (29 posto) i Azija (19).
Rast je pritom najizraženiji u visoko reguliranim i operativno složenim industrijama. Nakon razvoja softvera i tehnologije (16 posto), proizvodnja čini 13 posto globalne uporabe AI agenata, ispred financijskih usluga s 11 i maloprodaja s devet posto.
U tim se sektorima AI agenti sve više koriste za izradu prijedloga, analizu financijskih podataka, trijažu sigurnosnih upozorenja, automatizaciju repetitivnih procesa i otkrivanje uvida brzinom stroja.
Izvješće upozorava da brza implementacija AI agenata može prestići sigurnosne i druge sustave upravljanja, povećavajući rizik od takozvanog “shadow AI‑a”. Agenti s prevelikim ovlastima ili pod utjecajem pogrešnih ulaznih podataka, mogu biti zloupotrijebljeni i pretvoreni u nenamjerne “dvostruke agente”.
Baš kao i kod ljudskih zaposlenika, AI agenti trebaju jasne uloge, ograničene privilegije i kontinuirani nadzor. Prema Cyber Pulse izvješću, već 29 posto zaposlenika poseže za neodobrenim AI agentima u obavljanju radnih zadataka.
Pročitajte još:
“U Hrvatskoj i diljem regije AI agenti brzo postaju digitalne kolege u svakodnevnim poslovnim operacijama. No bez jasnih pravila, vidljivosti i odgovornosti oni mogu postati ozbiljan sigurnosni rizik. Inovacije i sigurnost moraju napredovati istom brzinom. Organizacije koje primjenjuju Zero Trust principe, potpunu vidljivost i centralizirano upravljanje AI agentima, kao što to čine s ljudima i sustavima, smanjit će rizik, ojačati povjerenje i biti bolje pozicionirane u odnosu na konkurenciju i to na sve reguliranijem i digitalnijem europskom tržištu, pa i šire“, rekao je Tomislav Vračić, regionalni direktor za tehnologiju u Microsoftu.
Prema Microsoftovom Data Security Indexu, samo 47 posto organizacija uvodi specifične sigurnosne kontrole za GenAI — što ukazuje na priliku da organizacije osiguraju potrebnu vidljivost za sigurno uvođenje umjetne inteligencije.
