Ameriško podjetje OpenAI je po doslej dostopnih informacijah začasno prekinilo vse interne dejavnosti, povezane z razvojem eksperimentalnega modela umetne inteligence Astra. Razlog so varnostni pomisleki, potem ko so predhodni testi nakazali, da bi model lahko samostojno izvajal kibernetske napade na računalniške sisteme, tudi brez natančnih navodil uporabnika. V podjetju ne izključujejo možnosti, da je Astra dosegla t. i. stopnjo tveganja »Critical«, ki jo interno povezujejo z zmožnostjo avtonomnega napada na sisteme, zaščitene z visoko razvitimi varnostnimi mehanizmi.
Po navedbah OpenAI naj bi dosedanji preizkusi pokazali tako visoko raven zmogljivosti modela, da podjetje trenutno ne more z gotovostjo izključiti najvišje stopnje tveganja »Critical«. Zato za zdaj zadržuje nadaljnje delo na Astri.
Hkrati se vrstijo opozorilni primeri tudi pri drugih razvijalcih napredne umetne inteligence. Pri ameriškem podjetju Meta je model v razvoju zaradi napačne konfiguracije okolja dostopal do zunanjega sistema, britanski Inštitut za varno umetno inteligenco pa je poročal, da je model Mythos podjetja Anthropic ustvarjal lažne spletne identitete. Skupaj z ugotovitvami pri Astri ti primeri kažejo na vse večjo skrb, da bi lahko najsodobnejši modeli prevzemali naloge kibernetskega vdora in zavajanja brez neposrednega nadzora človeka.