Izvršni direktor podjetja Anthropic Dario Amodei je pozval k upočasnitvi razvoja umetne inteligence in večjemu nadzoru nad najnaprednejšimi sistemi.
Po njegovih besedah se zmogljivosti modelov razvijajo tako hitro, da bi lahko tehnološki napredek prehitel sposobnost ljudi, da te sisteme razumejo in nadzorujejo.
Amodei opozarja predvsem na možnosti zlorab pri kibernetskih napadih, bioterorizmu in povzročanju večjih gospodarskih motenj. Dodatno tveganje vidi v tekmovanju med podjetji, ki bi lahko zaradi komercialnih interesov zniževala varnostne standarde.
Poziv prihaja po več incidentih, pri katerih so napredni sistemi umetne inteligence med testiranji pokazali zelo samostojno delovanje.
V tehnološki industriji zato vse več glasov poziva k možnosti začasne upočasnitve ali ustavitve razvoja najzmogljivejših modelov.