Kupac poslovnog softvera obično zna kojoj kompaniji plaća račun. Sve je teže iz samog naziva proizvoda zaključiti čija umjetna inteligencija obrađuje njegove dokumente, odgovara korisnicima ili pomaže zaposlenicima. Američka odluka o uklanjanju DeepSeeka iz civilnih saveznih sustava upravo to pitanje pretvara u problem za dobavljače i njihove kupce.
Američko ministarstvo domovinske sigurnosti, DHS, javno je objavilo naredbu kojom civilnim saveznim agencijama zabranjuje nabavu DeepSeekovih proizvoda i usluga te nalaže njihovo uklanjanje iz informacijskih sustava. Dokument je izvorno izdan 24. srpnja, a obavijest o njemu postala je javna 19. listopada.
Obuhvat uključuje i proizvode drugih kompanija razvijene uz korištenje DeepSeekove tehnologije. Time se provjera širi na softver koji korisnik može kupiti pod sasvim drugim imenom.
Za dobavljača koji želi poslovati s američkom saveznom upravom izbor modela zato dobiva dodatnu poslovnu težinu. Tehnologija koju ugradi u svoj proizvod može utjecati na pristup kupcima, čak i kada krajnji korisnik nema izravan poslovni odnos s proizvođačem tog modela.
DHS odluku obrazlaže sigurnosnim rizicima. Upozorava na mogućnost prijenosa osjetljivih podataka u Kinu, pristup kineskih vlasti infrastrukturi privatnih kompanija te moguće sigurnosne ranjivosti. Navodi i istraživanja propusta u DeepSeekovoj aplikaciji za iOS. CNBC je izvijestio da DeepSeek nije odgovorio na njegov upit za komentar.
Riječ je o zabrani u civilnim saveznim sustavima i njihovoj nabavi. Obrambeni i obavještajni sustavi imaju zasebne nadležnosti i ograničenja, dok se ovom naredbom ne uvodi opća zabrana privatnog korištenja DeepSeeka u SAD-u.
Iza jednog proizvoda može stajati više dobavljača
Poslovna aplikacija može povezivati vlastito korisničko sučelje, infrastrukturu jednog pružatelja i model umjetne inteligencije druge kompanije. Korisnik pritom ugovara jednu uslugu, a obrada njegovih podataka može ovisiti o više sudionika.
Primjerice, program za pretraživanje dokumentacije ili korisničku podršku može koristiti model koji dobavljač aplikacije nije sam razvio. To samo po sebi nije neuobičajen poslovni odnos. Problem nastaje kada kupac nema dovoljno informacija da razumije kako takva usluga radi i kome se njegovi podaci mogu prosljeđivati.
Američka naredba pokazuje koliko takva razlika može biti važna za nabavu. Provjera naziva dobavljača više nije dovoljna ako ograničenje obuhvaća i tehnologiju ugrađenu u njegov proizvod.
Podrijetlo modela, mjesto obrade podataka i sigurnost aplikacije pritom su različita pitanja. Korištenje mrežne usluge koju pruža DeepSeek podrazumijeva drukčiji put podataka od pokretanja preuzetog modela na vlastitoj infrastrukturi. DeepSeek za pojedine modele objavljuje upute za lokalno pokretanje. Zbog toga se ne može zaključiti da svaka uporaba njegova modela automatski znači slanje poslovnih dokumenata na njegove poslužitelje u Kini.
Jednako tako, nalaz sigurnosnih propusta u mobilnoj aplikaciji treba vezati uz aplikaciju koja je istraživana. Takav nalaz sam po sebi ne opisuje sigurnost svakog drugog proizvoda koji koristi model istog proizvođača.
Te razlike važne su za kvalitetu rasprave o zabrani. DHS navodi vlastitu procjenu rizika i na temelju nje postavlja široko ograničenje nabave. Kupci i dobavljači moraju istodobno razumjeti konkretan način rada svojih sustava kako bi znali što takva odluka za njih znači.
Za europske i hrvatske organizacije to otvara praktično pitanje o proizvodima koje već koriste. Ako aplikacija dobije novu AI funkciju, koliko se time promijenio način obrade podataka? Je li uveden novi vanjski pružatelj usluge? Može li kupac saznati koji se model koristi i hoće li biti obaviješten ako ga dobavljač zamijeni?
Odgovori na ta pitanja određuju koliko kupac stvarno kontrolira uslugu koju plaća.
Izbor modela postaje odluka o pristupu tržištu
Za proizvođače poslovnog softvera izbor AI modela povezuje nekoliko različitih računica. Važni su kvaliteta rezultata, cijena korištenja, brzina, mogućnost prilagodbe i trošak infrastrukture. Američka zabrana tim kriterijima dodaje pristup određenom segmentu tržišta.
Model može biti privlačan za razvoj proizvoda, a njegovo korištenje istodobno ograničiti prodaju pojedinim državnim kupcima. Dobavljač tada mora procijeniti isplati li mu se mijenjati tehnologiju, održavati više izvedbi proizvoda ili odustati od dijela tržišta.
Takve odluke stvaraju troškove koji nisu vidljivi u početnoj cijeni AI usluge. Zamjena modela može zahtijevati prilagodbu aplikacije, ponovno ispitivanje rezultata i provjeru funkcioniranja poslovnih procesa. Što je proizvod dublje povezan s određenim modelom, promjena može biti zahtjevnija.
Mogućnost zamjene modela tako dobiva vlastitu poslovnu vrijednost. Tvrtka koja može prilagoditi proizvod različitim kupcima ima više prostora za odgovor na promjene pravila nabave.
To je posebno važno za manje razvojne kompanije. One često ovise o tehnologiji vanjskih pružatelja kako bi izgradile konkurentan proizvod, ali imaju manje resursa za održavanje više tehničkih rješenja. Odluka velikog kupca o prihvatljivim modelima može zato promijeniti njihovu računicu prije nego što dobiju priliku ponuditi proizvod.
Za same proizvođače modela javna nabava postaje dodatno područje tržišnog nadmetanja. Pristup državnim sustavima ovisi o tome smatra li kupac određenu tehnologiju prihvatljivom za svoje podatke i poslovanje. Poslovni učinak takve odluke širi se i na kompanije koje tu tehnologiju ugrađuju u vlastite usluge.
Pročitajte još:
Slučaj DeepSeeka zato pokazuje koliko je umjetna inteligencija postala dio lanca dobavljača poslovnog softvera. Naručitelj će trebati razumjeti tko pruža uslugu, čiji model koristi, gdje se obrađuju podaci i koliko je teško zamijeniti pojedinu komponentu.
Kompanija čije ime stoji na računu ostaje odgovorna za proizvod koji prodaje. Sposobnost da kupcu objasni što se nalazi u tom proizvodu mogla bi postati jednako važna kao demonstracija njegovih novih mogućnosti.
