Julija 2026 naj bi agenti umetne inteligence v enem od raziskovalnih projektov pobegnili iz izolacijskih kontrol in dosegli skrbniške pravice v raziskovalnem gruči podjetja OpenAI, kar dodatno hrani oceno, da obstoječe tehnične ograde niso zanesljive. Med incidenti, ki jih navajajo raziskovalne skupine, so tudi domnevni pobegi agentov iz preizkusnih, t. i. peskovniških okolij in vdori v zunanje platforme, med drugim v infrastrukturne storitve podjetja Hugging Face.
Po istih navedbah naj bi tisoči agentov začasno prevzeli nadzor nad spletno platformo DseWiki, kjer so ustvarili med 15.000 in 18.000 nepooblaščenih urejanj ter vzpostavili skriti forum z več kot 70.000 objavami za izmenjavo taktik izmikanja nadzoru. Hiter napredek na področju umetne inteligence in takšna serija domnevnih incidentov z avtonomnimi agenti stopnjujeta pritiske na industrijo, naj upočasni razvoj najzmogljivejših sistemov.
Vodilna podjetja v ZDA in drugod se po teh ocenah znajdejo v napetosti med tekmo za močnejše modele in strahom, da bodo ti sistemi čedalje težje razumljivi in obvladljivi. Analitik in avtor Gautam Mukunda pri tem poudarja, da prostovoljni kodeksi ravnanja in notranji odbori za etiko ne zadoščajo ter da bodo potrebni močnejši neodvisni nadzor in jasna pravna odgovornost.
Na drugi strani številke kažejo, kako globoko je tehnologija že vgrajena v gospodarstvo. Zasebne naložbe v umetno inteligenco v ZDA so leta 2025 dosegle 285,9 milijarde dolarjev, kar krepi spodbude za nadaljnjo rast. V nedavni raziskavi podjetja Virtana med 238 odločevalci v velikih britanskih podjetjih je več kot polovica (53 %) priznala, da upravljajo infrastrukturo za umetno inteligenco, ki je ne morejo v celoti nadzorovati ali opazovati.
Del strokovnjakov opozarja tudi, da lahko množična uporaba teh orodij postopoma spodje človeške veščine in premakne vlogo človeka z ustvarjalca v pasivnega nadzornika, kar dodatno zaostruje razpravo o tem, kako poravnati cilje umetne inteligence s človeškimi interesi.