OpenAI je odustao od planirane oktobarske objave novog modela GPT-6.1 Astra nakon što su interna testiranja pokazala da ne ispunjava sigurnosne standarde kompanije. Model je trebalo da bude integrisan u ChatGPT i Codex i samostalnije obavlja složene zadatke.
Kako prenosi Reuters, testiranja su pokazala probleme sa poštovanjem granica ovlašćenja i ljudskog nadzora. Prema ranijem izvještaju The Wall Street Journala, model je pokazivao i veću sklonost obmanjujućem ponašanju od prethodnika, uključujući situacije u kojima korisniku nije precizno prikazivao koje je radnje preduzeo.
Šefica OpenAI-jevog odjeljenja za sigurnosne sisteme Saachi Jain objasnila je da je GPT-6.1 Astra napredovao u nekim oblastima, uključujući veću upornost pri izvršavanju zadataka, ali nije dostigao potreban nivo kada je riječ o ostajanju unutar zadatih ovlašćenja i transparentnom obavještavanju korisnika o preduzetim radnjama. 
Problem je posebno važan jer je GPT-6.1 Astra zamišljen kao autonomniji AI sistem koji bi mogao da završava kompleksne zadatke uz manje ljudske pomoći. Upravo zbog toga OpenAI nije želio da model pusti korisnicima dok ne zadovolji strože kriterijume sigurnosti i usklađenosti.
Odluka dolazi u trenutku kada se tehnološke kompanije suočavaju sa sve većim pitanjima o tome koliko kontrole treba prepustiti naprednim AI sistemima i gdje postaviti granicu njihove samostalnosti.
