Američki startup Anthropic posljednjih tjedana ne silazi s naslovnica, prvo zbog nove, ažurirane verzije svog alata Claude Cowork, a potom i radi sukoba s Pentagonom, započetog nakon što su odbili omogućiti američkoj vojsci neograničen pristup svojim AI alatima.
Zbog toga su postali i prva američka tvrtka koju je američki ministar obrane Peter Hegseth označio kao “rizik u opskrbom lancu”, poslije čega je predsjednik Donald Trump najavio da će naložiti svakoj saveznoj agenciji da odmah prestane koristiti njihovu tehnologiju.
Iz Anthropica su posljednjih mjeseci često isticali svoju zabrinutost zbog mogućnosti da vlada koristi njezine AI alate, poput Claudea, za ono što je opisala kao “masovni nadzor” i “potpuno autonomno oružje”. Hegseth i Pentagon inzistirali su da Anthropic pristane na “svaku zakonitu upotrebu” njihovih alata i tehnologije.
Zbog svega navedenog, odlučili smo doznati nešto više o tom startupu koji je i prije navedenih događaja često nazivan jednim od glavnih konkurenata OpenAI-ju.
Kompaniju sa središtem u San Franciscu 2021. su osnovali Dario i Daniela Amodei, zajedno s grupom bivših istraživača iz OpenAI-ja.
Svoj odlazak iz tvrtke Sama Altmana objasnili su željom da se fokusiraju na sigurnost umjetne inteligencije. Tako su razvili i posebnu metodu Constitutional AI, gdje se model trenira pomoću skupa pravila koja mu pomažu da sam procjenjuje jesu li njegovi odgovori prihvatljivi u moralnom smislu.
U praksi to znači da Claude i kad zna odgovor, može odbiti odgovoriti ako postoji i najmanji rizik da bi mogao biti štetan, neprimjeren ili pogrešan.
Takav pristup Anthropicu je osigurao milijarde dolara investicija od Amazona i Googlea koji koriste njihove modele u cloud servisima.
Prema pisanju Financial Timesa, izvršni direktor Dario Amodei se vratio za pregovarački stol s američkim Ministarstvom obrane, točnije s podtajnikom ministarstva obrane za istraživanje i inženjerstvo Emileom Michaelom.
Pročitajte još:
Bit će to ujedno i posljednji pokušaj izglađivanja situacije koju dodatno komplicira ugovor vrijedan 200 milijuna dolara prema kojem bi Claude postao prvi veliki model raspoređen u vladinim tajnim mrežama.
Podsjetimo i da je samo nekoliko sati nakon prošlotjedne kulminacije spomenutog sukoba, izvršni direktor OpenAI-ja Sam Altman objavio da je njegova tvrtka potpisala sporazum s Pentagonom, što je, pak, naišlo na žestoke kritike dijela korisnika ChatGPT-ja.
