OpenAI neće objaviti svoj novi AI model GPT-6.1 Astra zbog sigurnosnih razloga, potvrdili su u utorak.
AI sustav, koji samostalno obavlja zadatke poput pregledavanja interneta i korištenja aplikacija, “nije u potpunosti zadovoljio kriterije” kompanijskih standarda, objasnila je Saachi Jain, voditeljica sigurnosnih sustava u OpenAI-ju.
OpenAI je, piše BBC, objavio i ažurirane informacije o incidentima koji su se dogodili u lipnju, ali su javno objavljeni tek prošlog tjedna. U tim incidentima modeli tvrtke pristupili su internetskim stranicama i sustavima australske vlade bez autorizacije.
Ti incidenti, kao i slični propusti modela koje razvijaju velike AI kompanije, posljednjih su tjedana dodatno intenzivirali raspravu o rizicima koje ta tehnologija nosi.
Vodeći stručnjaci u području umjetne inteligencije, među njima i Sam Altman iz OpenAI-ja te čelnik Anthropica Dario Amodei, pozvali su industriju da uspori tempo razvoja zbog zabrinutosti oko rizika povezanih s tom tehnologijom.
Odluka OpenAI-ja, o kojoj je prvi izvijestio Wall Street Journal, rijedak je slučaj da veliki proizvođač AI tehnologije povuče novu verziju zbog sigurnosnih razloga.
Pročitajte još:
Model nije zadovoljio kriterije u pogledu “ostajanja unutar zadanog opsega i ovlasti te načina na koji korisniku komunicira kakvu je vrstu posla obavio”.
“Želimo biti sigurni da je razvoj naših modela siguran, bez obzira na to odvija li se unutar kompanije ili ih isporučujemo korisnicima. No kada ih isporučujemo korisnicima, imamo iznimno visoke standarde u pogledu sigurnosti i usklađenosti”, dodala je Jain.
