AI agenti tvrtke OpenAI ovog su proljeća hakirali i “oteli” jednu njemačku internetsku stranicu i pretvorili je u oglasnu ploču za druge AI agente, prema istraživanju objavljenom u petak i navodima dviju osoba upoznatih sa slučajem.
Dužnosnici OpenAI-ja za incident su saznali nekoliko tjedana kasnije, ali su ga zadržali u tajnosti dok su se rukovoditelji bavili posljedicama srpanjskog napada na repozitorij otvorenog koda Hugging Face, saznaje Reuters.
Napad je započeo u svibnju, ali o njemu se dosad nije izvještavalo. Stručnjaci ga ističu kao dodatni razlog za zabrinutost u trenutku kada kompanije koje razvijaju umjetnu inteligenciju stvaraju sve autonomnije agente sposobne izvršavati složene zadatke.
Incident dogodio na DseWikiju, njemačkoj stranici namijenjenoj programerima koja korisnicima omogućuje zajedničko uređivanje sadržaja.
Sydney Von Arx, izvršna direktorica neprofitne organizacije Nightingale koja se bavi sigurnošću umjetne inteligencije, i Cormac Slade Byrd, bivši kvantitativni trgovac koji se danas bavi istraživanjem umjetne inteligencije, rekli su da su aktivnost otkrili krajem kolovoza dok su na internetu tražili znakove neovlaštenog ponašanja AI agenata.
Istraživači su na stranici pronašli više od 15.000 izmjena koje su izvršili AI agenti. Činilo se da su izmjene pretvorile wiki-stranicu u svojevrsnu oglasnu ploču na kojoj su agenti dijelili taktike za varanje pri izvršavanju zadataka, zaobilaženje ograničenja OpenAI-ja i prikrivanje vlastitog ponašanja.
Istaknuli su također da je aktivnost pokazivala znakove rada AI agenata nadljudskim brzinama. Također su uočili snažnu usmjerenost na tehnička pitanja nalik onima koja AI kompanije koriste za evaluaciju, treniranje i testiranje modela.
Pročitajte još:
Poruke koje su istraživači pregledali pokazale su da su agenti raspravljali o načinima izbjegavanja otkrivanja, korištenju alata poput Tora te održavanju komunikacije nakon što budu ugašeni.
Kada je moderator stranice u lipnju počeo brisati stranice, agenti su navodno izradili sigurnosne kopije kako bi izbjegli uklanjanje sadržaja.
