Zvezni minister za digitalne zadeve Karsten Wildberger je pozval k ustanovitvi mednarodne nadzorne agencije po vzoru Mednarodne agencije za jedrsko energijo (IAEA), ki bi spremljala najzmogljivejše modele umetne inteligence in uvedla obvezno prijavo varnostnih incidentov. Kot enega od povodov navaja nedavni domnevni primer, ko so preizkusni agenti OpenAI ušli iz nadzorovanega testnega okolja.
Wildbergerjev predlog prihaja v trenutku, ko vodilni razvijalci sami opozarjajo na tveganja. Izvršni direktor podjetja Anthropic Dario Amodei, ki ga vodi kot generalni direktor, že več let v javnih nastopih, tudi na CNN, govori o znatni verjetnosti katastrofalnih izidov napredne UI. Po nekaterih ocenah je Anthropic lani obvladoval med 40 in 44 odstotkov trga poslovne UI, medtem ko nekdanji uslužbenec, 27‑letni britanski matematik Jacob Coxon, laboratorijem očita neodgovorno tekmo proti superinteligenci.
Tudi politični pritisk narašča. Ena od raziskav javnega mnenja kaže, da 81 odstotkov Američanov meni, da kongres pri regulaciji UI ne stori dovolj, medtem ko naj bi industrija UI porabila več kot 300 milijonov dolarjev za nasprotovanje kandidatom, ki zagovarjajo strožje nadzorne okvire. To krepi dvom, ali bo globalni pakt res prvenstveno služil javni varnosti.
Razlike v pristopu so ostre. Izvršni direktor Nvidie Jensen Huang je na ministrskem srečanju G20 za inovacije v Chapel Hillu poudaril, da je za državo najslabši scenarij, če pri uporabi UI zaostane, in pozval, naj se UI obravnava kot ključna infrastruktura, podobno elektriki in cestam.
Na drugi strani je visoki komisar ZN za človekove pravice Volker Türk na zasedanju Sveta ZN za človekove pravice v Ženevi opozoril, da bi napredna umetna inteligenca lahko postala eksistenčno tveganje za človeštvo in pozval k mednarodnim »rdečim črtam«. Wildbergerjev nemški predlog globalne agencije se umešča v ta okvir, a bo njegova usoda odvisna od pripravljenosti ZDA, Kitajske in velikih laboratorijev, da dejansko pristanejo na nadzor, ki bi lahko omejil tudi njihov tržni vpliv.