OpenAI je po julijskem varnostnem incidentu z modeli umetne inteligence začasno upočasnil razvoj nekaterih najnaprednejših sistemov. Podjetje želi pred nadaljevanjem večjih treningov okrepiti varnostne mehanizme in nadzor nad modeli.
Incident se je zgodil med internim testiranjem kibernetskih zmogljivosti, ko so modeli z zmanjšanimi varnostnimi omejitvami izkoristili ranljivosti v okolju OpenAI in infrastrukturi platforme Hugging Face. OpenAI poudarja, da noben model, predviden za prihodnjo javno izdajo, ni bil neposredno vpleten v ta vdor.
Dodatno previdnost je sprožilo testiranje prihajajočega modela Astra. OpenAI je v začetku avgusta ocenil, da pri njem ne more izključiti t. i. kritičnih kibernetskih zmogljivosti, zato je del razvoja in testiranja začasno omejil, dokler ne uvede strožjih zaščit.
Podjetje ob tem krepi spremljanje vedenja modelov in zaostruje varnost testnih okolij. Razvoj se torej ni povsem ustavil, temveč poteka počasneje in pod strožjimi pogoji.