Eric Schmidt, nekdanji izvršni direktor Googla, ocenjuje, da bodo v približno petih letih sistemi umetne inteligence sposobni samostojno izvesti procese v tisoč korakih za reševanje kompleksnih problemov v znanosti, medicini, razvoju novih materialov in pri podnebnih spremembah. Opozarja, da bi takšne zmožnosti, združene z vedno večjim obsegom podatkov, ki jih modeli obdelajo naenkrat, lahko vodile v oblike delovanja in komunikacije, ki jih ljudje ne bi več razumeli.
Če bi UI postala nerazumljiva ali nevarna, je po njegovem edina odgovorna možnost, da jo preprosto izklopimo. Kot ključne tehnološke premike, ki poganjajo ta razvoj, navaja tri trende: drastično razširjena kontekstna okna, agentne sisteme umetne inteligence ter orodja, ki navodila v naravnem jeziku neposredno pretvarjajo v delujočo programsko opremo. Po Schmidtu prav ta kombinacija odpira tako največje priložnosti kot največja tveganja.
Strokovnjaki za kibernetsko varnost in regulacijo opozarjajo, da je predstava o enem samem velikem rdečem gumbu, ki bi ustavil nevaren sistem, zavajajoče preprosta. Sodobni modeli tečejo na porazdeljeni infrastrukturi v več podatkovnih središčih in čez različne ponudnike storitev, zato pogosto ne obstaja en sam »vtič«, ki bi ga bilo mogoče izpuliti, kar za zakonodajalce v ZDA in Evropi predstavlja izjemno zahteven tehnični in politični problem.