Google je proširio ponudu vlastitih čipova za umjetnu inteligenciju dvama sustavima za podatkovne centre. Kako je objavio Google Cloud, TPU 8tx namijenjen je tvrtkama i javnim ustanovama koje modele umjetne inteligencije koriste za obradu povjerljivih podataka.
TPU 8i Max razvijen je za zadatke pri kojima model mora istodobno raditi s velikom količinom materijala, primjerice pregledavati programski kod cijele aplikacije ili analizirati višesatne videosnimke.
Oba se sustava temelje na Googleovim čipovima osme generacije. Tvrtka je u travnju predstavila TPU 8t za treniranje velikih modela i TPU 8i za njihovo brzo izvršavanje nakon što su istrenirani.
U novom sustavu 8tx Google je čip iz modela 8t spojio s AMD-ovim procesorima i ugradio zaštitu koja obuhvaća i podatke i parametre samog modela.
Podaci se u pravilu šifriraju pri pohrani i prijenosu, a računalo ih za obradu mora učitati u memoriju. Google navodi da ih 8tx štiti i u toj fazi. Tvrtka tako može na istom sustavu koristiti model i dodatno ga prilagoditi vlastitim povjerljivim podacima, bez premještanja tih podataka na drugu skupinu poslužitelja.
U izvedbi 8i Max Google je spojio dva čipa 8i. Prema podacima kompanije, time je udvostručio računalnu snagu, količinu memorije na čipu i brzinu prijenosa podataka iz glavne memorije. Za podatkovne centre važno je da takav sustav zauzima isti prostor u poslužiteljskom ormaru kao prethodna izvedba.
Google je prve TPU čipove razvio prije više od deset godina za vlastite potrebe, među ostalim za prepoznavanje govora i prevođenje. Danas na njima trenira i pokreće modele Gemini, a kupcima ih nudi kroz Google Cloud i za ugradnju u njihove podatkovne centre. Google navodi da za TPU sustave sada ima gotovo stotinu kupaca.
Pročitajte još:
Kako piše Reuters, Alphabet je u trećem tromjesečju počeo iskazivati prihode od izravne prodaje cjelovitih TPU sustava, koji uz čipove uključuju pripadajuću opremu i softver. Time Google ulazi u izravniju konkurenciju s Nvidijom na tržištu opreme za umjetnu inteligenciju. U istom su tromjesečju ukupni prihodi Google Clouda, prema Alphabetovu izvješću, porasli s 15,2 na 30,7 milijardi dolara.
Google svoje čipove širi i izvan vlastitog oblaka. Krajem listopada s Oracleom je dogovorio da će se TPU kapaciteti od 2027. nuditi i kroz Oracle Cloud Infrastructure. Oracle će tako biti prvi veliki pružatelj usluga u oblaku koji će svojim korisnicima ponuditi Googleove TPU čipove.
