Umjetna inteligencija (AI) postaje sve prisutniji fenomen o čijoj se uporabi, prednostima i rizicima sve više puni prostor i u medijima, no čini se da ipak još uvijek nije, barem izvan stručnih krugova, posve jasno kako bi se to umjetna inteligencija najbolje mogla koristiti i što sve ona zapravo može donijeti.
Splitski start-up SplxAI se prihvatio zanimljive i bitne zadaće, a to je omogućiti sigurnosna rješenja za aplikacije umjetne inteligencije. Jer, dobro se zna da je u virtualnom svijetu, kao što je slučaj i u onom realnom, jedna od najvećih briga znati da je ono što se koristi – sigurno.
O toj je temi za Financije.hr govorila konzultantica za sigurnost umjetne inteligencije u SplxAI Ilijana Pauk.
SplxAI djeluje već godinu dana, a naš glavni fokus je na razvoju sigurnosnih rješenja za aplikacije umjetne inteligencije. Naša specijalnost je identifikacija i mitigacija sigurnosnih prijetnji u AI sustavima kao što su manipulacije modelima, krađa podataka I pokušaji obmane sustava. Naš cilj je osigurati da korisnici mogu koristiti AI tehnologije na siguran i pouzdan način, bez straha od sigurnosnih prijetnji koje mogu ugroziti njihove operacije i podatke.
Tko je ciljna skupina korisnika rješenja kojima se SplxAI bavi? Je li to prije svega poslovni sektor ili i šire od toga? Na koji način potencijalni korisnici doznaju za proizvod?
Naša ciljana skupina su tvrtke, najviše iz financijskog sektora, zdravstva, ali i maloprodaje te osiguravajuća društva. Rješenja koja nudimo korisna su svima koji koriste AI u osjetljivim područjima. Naš glavni fokus su veće organizacije, ali rješenja su prilagodljiva i za manje firme. Trenutačno klijente pronalazimo kroz direktne kontakte, B2B suradnje, sudjelovanjem na međunarodnim konferencijama i aktivnostima na globalnim tržištima.
U kojoj je fazi razvoj rješenja na kojima SplxAI radi? Kako vidite daljnji razvojni put?
Glavni proizvod već je uspješno plasiran na tržište i koristi ga nekoliko klijenata u Europi, SAD-u i na Bliskom istoku. Trenutačno radimo na dodavanju novih funkcionalnosti i prilagodbi specifičnim potrebama naših klijenata što uključuje daljnje unaprjeđenje performansi i sigurnosti. U narednoj godini planiramo proširiti našu ponudu novim značajkama koje će dodatno povećati našu konkurentnost na tržištu i omogućiti korisnicima bolju zaštitu njihovih AI sustava. Naš dugoročni cilj je postati globalni lider u sigurnosnim rješenjima za umjetnu inteligenciju.
Koliko je zaposlenih u SplxAI-u? Jesu li svi iz Hrvatske ili ima i stranih stručnjaka?
Trenutno SplxAI broji 16 zaposlenika, većina je u Hrvatskoj u uredima u Splitu i Zagrebu. Međutim, kako ciljamo međunarodna tržišta, posebno SAD , aktivno razvijamo i timove izvan Hrvatske. Očekujemo daljnji rast tima u budućnosti kako bismo zadovoljili potrebe tržišta i podržali razvoj naših proizvoda i usluga.
Što su zapravo sigurnosni rizici kad je riječ o umjetnoj inteligenciji i na koji se način prepoznaju? Od čega se zapravo treba zaštititi?
Sigurnosni rizici u AI uključuju napade na modele, krađu podataka i nepredvidljive greške autonomnih sustava. Napadi mogu manipulirati AI-em da donese pogrešne odluke, dok krađa podataka ugrožava osjetljive informacije. Greške u autonomnim sustavima, poput onih u zdravstvu, mogu imati ozbiljne posljedice. Naša rješenja prepoznaju ove prijetnje putem simulacija napada, testiranja modela i procjene podataka, čime pomažemo korisnicima da zaštite svoje sustave i osiguraju sigurno korištenje AI tehnologija.
U kojim segmentima poslovanja je zasad najčešća uporaba umjetne inteligencije i kolika je uopće svijest među korisnicima o sigurnosnim rizicima? Kako najbolje potaknuti tu svijest?
AI se najviše koristi u financijama (detekcija prijevara), zdravstvu (pomoć u dijagnozi), marketingu (personalizacija ponuda), te u maloprodaji i osiguranju (chatbotovi, personalizirani proizvodi i usluge). Kada je riječ o svijesti o sigurnosnim rizicima, ona se poboljšava, ali i dalje postoji značajan jaz, posebno među manjim i srednjim tvrtkama koje nisu dovoljno svjesne prijetnji. Mnoge tvrtke još uvijek ne shvaćaju ozbiljnost sigurnosnih problema koje AI nosi.
Kako Hrvatska stoji na polju korištenja umjetne inteligencije?
Hrvatska ima potencijala ali još uvijek kaskamo za nekim drugim zemljama. Problem je što nedostaje specijaliziranih stručnjaka i investicija, što usporava razvoj. Srećom, interes za AI raste, a i sigurnosni aspekti postaju sve važniji. Trebamo više ulagati u obrazovanje i podizanje svijesti o AI-u kako bismo bili konkurentniji na globalnoj sceni.
Pročitajte još:
SplxAI je nedavno dobio povjerenje investitora iz SAD-a, Poljske i Nizozemske u iznosu od dva milijuna dolara kao potporu razvoju. Što je glavna namjena te investicije i očekujete li daljnja slična ulaganja?
Investicija od 2 milijuna dolara bit će usmjerena na daljnji razvoj proizvoda, proširenje tima i širenje na tržišta poput SAD-a. . Također, planiramo ulagati u marketing tehnološku infrastrukturu kako bi se ubrzao rast. Očekujemo daljnja ulaganja jer su nužna za razvoj i održavanje konkurentske prednosti.
