Pitanje umjetne inteligencije (AI) kao načina automatizacije poslovanja okupilo je brojne stručnjake i poslovne ljude iz više od 140 tvrtki i organizacija iz Hrvatske i inozemstva na trećem dvodnevnom Automation Summitu u Podstrani kraj Splita koji su se fokusirali kroz niz panela na goruće teme kao što su kibernetička sigurnost, razvoj AI agenata, novi modeli poslovanja, poslovna vrijednost tehnologije te organizacijske promjene koje tehnologija zahtijeva.
Uprave tvrtki danas često moraju donositi odluke u uvjetima u kojima se mogućnosti tehnologije praktično mijenjaju iz mjeseca u mjesec.
Jedno od bitnih pitanja je interakcija između AI i ljudskog uma, odnosno koliko je ljudski faktor i dalje ključan.
“AI je automatizirao naprednu analitiku i omogućio nam uvid u obrasce koji su prije bili nedostižni. Izvanredno povezuje interne podatke s vanjskim utjecajima na poslovanje, ali analitičari i dalje moraju ostati u procesu. Umjetnoj inteligenciji za prave zaključke uvijek treba ljudski kontekst”, ocjenjuje glavni izvršni direktor tvrtke Atani AI Aleksej Migitko.
Slično razmišlja i Mike Popesku iz analitičke tvrtke sa sjedištem u Londonu Latenta.
“Svako malo slušam priče o tome kako će nas neka nova tehnologija učiniti nepotrebnima. No, s umjetnom inteligencijom dogodilo se upravo suprotno. Otkako je krenula opća opčinjenost AI-jem, obujam našeg posla, a to je istraživanje tržišta, znatno nam se povećao. Posao je ujedno postao i znatno zahtjevniji jer se sve mora odvijati puno brže. Da biste to uopće mogli pratiti, morali smo temeljito promijeniti vlastite procese. Naš proces počinje radionicom na kojoj s klijentom definiramo prioritete i ključna pitanja koja želimo otvoriti. Zatim pronalazimo pravu publiku i alate koji će dati odgovore jer korisnici često ni sami u početku ne znaju što im je točno potrebno. Same po sebi, tehnologije poput AI-ja i podatkovne znanosti tu ne mogu same odraditi posao. Umjetna inteligencija nema iskustvo stvarnoga svijeta niti ljudsku intuiciju koji su neophodni za donošenje pravih uvida i poslovnih odluka“, ustvrdio je.
Teo Toplak iz tvrtke ElevenLabs, koja se bavi istraživanjem i razradom AI proizvoda, ističe da AI projekti u korporacijama najčešće zapinju zbog raspršenih eksperimenata bez jasnog mandata, odnosno dokazivanja automatizacije bez vlasnika procesa i plana integracije.
“Za stvarni uspjeh potrebna je čvrsta operativna integracija”, poručio je.
Foto: Automation Summit
Kibernetička sigurnost je u svemu tome nešto što se nikako ne smije podcijeniti.
“Lako se opustiti i vjerovati. AI je samo povećao postojeće kibernetičke rizike. Danas je ključ u brzini kojom napadači mogu upotrijebiti nove modele. Nedavno smo u Hrvatskoj imali primjer gdje su AI agenti, nakon što im je dan puni pristup sustavu, obrisali sve podatke u jednoj tvrtki. Spasili su se samo zbog ‘backupa’ izvan dosega agenata. Lako se opustiti, ali autonomnim AI sustavima nikada ne smijemo davati kontrolu bez strogih ograda. Sigurnosna mjera nije da se postavi uputa ‘nemoj mijenjati osnovne podatke’. To nije to. Sigurnosna mjera je staviti rad AI agenta u neki kontejner i pratiti što radi. Nikako mu slijepo vjerovati”, naglasio je Vlatko Košturjak zadužen za inovacije i istraživanje u tvrtki Marlink Cyber.
Kristian Kamber iz tvrtke Zscaler ističe da je danas najveći sigurnosni problem što ne znamo što sve ne znamo.
“Upravo ta ‘slijepa mjesta’ stvaraju najveći rizik. Ljudi bez puno razmišljanja integriraju razne AI modele, uključujući i kineske modele, no ako postavite AI agenta ključno je pitanje kakvu točno vidljivost imate nad njegovim radom i pristupima. Mislim da je glavni izazov za našu industriju danas postala izgradnja sigurnosnih posrednika koji će precizno upravljati identitetom, ovlastima i dozvolama za AI agente”, ocijenio je.
Francesca Curzi iz globalne softverske tvrtke HCL Software upozorava da danas skoro svaka organizacija ima ili uvodi AI, no kada se zagrebe ispod površine tek devet posto kompanija uspjelo je postići stvarnu orkestraciju ugradnjom AI agenata u poslovne procese.
“AI agenti su danas prisutni posvuda u IT infrastrukturi, od oblaka i baza podataka do mrežnih sustava, ali sloj koji bi im omogućio da rade usklađeno, sigurno i bez međusobnih konflikata u većini organizacija jednostavno ne postoji. Ti agenti svakodnevno samostalno izvršavaju na tisuće radnji. Ključno pitanje koje svaka uprava mora postaviti glasi: tko je te akcije odobrio i na temelju kojih pravila? Ako vam za odgovor na to pitanje treba nekoliko dana ili tjedana, suočeni ste s ozbiljnim problemom upravljanja i nadzora. Bez jasne kontrole, agenti umjesto stvarne poslovne vrijednosti vrlo brzo mogu početi generirati nepredviđene rizike i financijsku štetu”, istaknula je.
Pročitajte još:
Trenutačne izazove vrlo je dobro sažela glavna izvršna direktorica tvrtke NexOra AI Aurora Kapo.
“Kada AI agentu date autoritet, čovjek je taj koji mora odobriti njegov rad i pratiti njegove akcije. Suočavamo se s tri glavne prepreke – prevelikim brojem razasutih sustava, procesima kojima se upravlja iako više nitko ne zna njihovu pravu poslovnu svrhu te činjenicom da sve zovemo AI-jem bez pravog razumijevanja kako se točno postupa s podacima. Bez potpunog uvida u podatke i procese nema sigurne primjene”, upozorila je.
Jedan odgovor
Istina.