OpenAI i druge tvrtke za razvoj umjetne inteligencije rade na inovativnim tehnikama treniranja koje bi mogle značajno promijeniti razvoj velikih jezičnih modela (LLM-ova).
Umjesto da se, piše Reuters, isključivo fokusiraju na povećanje veličine modela, ovi novi pristupi nastoje omogućiti da sustavi umjetne inteligencije obrađuju informacije na načine koji više nalikuju ljudskom načinu razmišljanja.
Ta se promjena događa zbog prepoznatog problema s tehničkim i resursnim ograničenjima koja se pojavljuju kod većih modela, poput velike potražnje za računalnom snagom, potrošnjom energije i specijaliziranom opremom poput GPU-ova.
Nedavno predstavljeni OpenAI model “o1” ilustrira neke od tih novih metoda. Na primjer, tehnike poput “rijetke pažnje” omogućuju modelima da selektivno obraćaju pažnju na određene dijelove podataka umjesto da sve obrađuju jednako.
Ovo može smanjiti računalno opterećenje, povećati učinkovitost i potencijalno dovesti do modela koji su brži i manje zahtjevni u pogledu resursa, a da pri tome ne gube na performansama.
Implikacije za područje umjetne inteligencije su značajne jer bi ove metode treniranja, koje više nalikuju ljudskom razmišljanju, mogle promijeniti potrebu za resursima korištenima za razvoj i rad naprednih AI modela.
Smanjenje ovisnosti o čistoj računalnoj snazi moglo bi ublažiti potrebu za sve većom količinom visokoučinkovitih čipova i električne energije. Takav bi pristup mogao donijeti da više tvrtki uđe u područje razvoja umjetne inteligencije ili da održe konkurentni razvoj umjetne inteligencije s dostupnijim resursima, što bi moglo izjednačiti uvjete u utrci za naprednom AI tehnologijom.
Pročitajte još:
Nadalje, takva poboljšanja mogla bi dovesti do održivijeg razvoja umjetne inteligencije i demokratizirati pristup naprednim AI sposobnostima, čineći te tehnologije dostupnijima za širu primjenu u različitim industrijama.
OpenAI je odbio komentirati pisanje Reutersa.
2 Odgovora
Za koju godinu: “Sve više radnih mjesta preuzima AI” 🙂
Žalosno, ali bi moglo biti istinito…