Apple i Meta započeli su neuobičajenu suradnju koja će razvojnim programerima omogućiti pokretanje Metina novog modela umjetne inteligencije izravno na računalima Mac Studio. Partnerstvo dvaju dugogodišnjih tehnoloških suparnika pokazuje kako razvoj umjetne inteligencije mijenja tradicionalne odnose i savezništva u Silicijskoj dolini.
Suradnja se temelji na Metinu modelu Muse Spark Open, koji ima 816 milijardi parametara i koristi arhitekturu „mixture-of-experts”. Riječ je o modelu otvorenih težina, što znači da korisnici mogu preuzeti njegove parametre i pokretati ga na vlastitoj računalnoj infrastrukturi.
Razvojni programeri moći će povezati između dva i četiri računala Mac Studio kako bi model koristili za programiranje, analizu videozapisa i druge zadatke koje autonomno obavljaju AI agenti.
Za razliku od većine najmoćnijih modela umjetne inteligencije, Muse Spark Open može se pokretati lokalno, bez slanja podataka u udaljene podatkovne centre. Takav pristup korisnicima pruža veću kontrolu nad osjetljivim podacima, smanjuje ovisnost o oblaku i potencijalno snižava troškove korištenja modela.
Lokalna umjetna inteligencija ima visoku cijenu
Metin direktor za umjetnu inteligenciju Alexandr Wang objasnio je da je većina naprednih otvorenih modela prevelika za uobičajena osobna računala. Appleova računala Mac Studio, međutim, mogu se opremiti dovoljnom količinom memorije da pokretanje tako velikog modela postane izvedivo.
Muse Spark Open prilagođen je Appleovim čipovima, a korisnici će ga moći preuzeti s platformi za distribuciju modela bez dodatnog konfiguriranja za Appleovu arhitekturu. Apple je istodobno objavio tehničku dokumentaciju i rezultate testiranja svojeg programskog okvira MLX, koji omogućuje raspodjelu izvođenja modela na više povezanih računala.
Time Apple pokušava pokazati da njegovi čipovi mogu imati važniju ulogu u razvoju umjetne inteligencije, osobito izvan velikih podatkovnih centara kojima dominiraju Nvidijini procesori.
Foto: EPA/John G. Mabanglo
Ipak, takva lokalna infrastruktura neće biti dostupna prosječnom korisniku. Mac Studio s potrebnim čipom M5 Ultra i 256 gigabajta memorije stoji najmanje 10.799 dolara, a za pokretanje modela potrebno je povezati više računala. Verzija s 512 gigabajta memorije trebala bi biti predstavljena tijekom listopada.
Najosnovnija konfiguracija s dva računala tako bi stajala više od 21.000 dolara, bez dodatne opreme. Proizvod je stoga namijenjen ponajprije razvojnim timovima, istraživačkim institucijama i kompanijama koje žele koristiti napredne modele, a podatke pritom zadržati u vlastitim prostorima.
Umjetna inteligencija potisnula stare sukobe
Partnerstvo je posebno zanimljivo zbog dugogodišnjih napetosti između Applea i Mete. Njihov odnos ozbiljno se pogoršao 2021. godine, kada je Apple uveo stroža pravila privatnosti koja su korisnicima omogućila ograničavanje praćenja aktivnosti u aplikacijama.
Promjena je izravno pogodila Metin oglašivački model, koji se oslanja na detaljno praćenje ponašanja korisnika. Meta je početkom 2022. procijenila da će je Appleove mjere samo te godine stajati približno deset milijardi dolara prihoda.
Kompanije nisu objavile je li Muse Spark Open početak šireg partnerstva. Ipak, javna komunikacija njihovih čelnika pokazuje koliko se odnos promijenio. Zuckerberg je istaknuo da Metin model učinkovito radi na novim računalima Mac Studio, dok je novi čelnik Applea John Ternus naglasio mogućnost pokretanja modela takve veličine izravno s radnog stola.
Pročitajte još:
Suradnja bi mogla predstavljati izazov za OpenAI i Anthropic jer razvijateljima nudi mogućnost korištenja vrlo velikog modela bez stalnog plaćanja pristupa putem oblaka. Istodobno, Meta dobiva novi distribucijski kanal, a Apple primjer kojim može demonstrirati snagu vlastitih procesora i memorijske arhitekture.
Nakon godina sukoba oko privatnosti i oglašavanja, Apple i Meta pronašli su zajednički interes u tržištu lokalne umjetne inteligencije. Njihovo partnerstvo ne znači da su stara neslaganja nestala, ali pokazuje da je utrka za razvoj i distribuciju AI modela postala važnija od dosadašnjih tehnoloških podjela.
