Znanost

Strokovnjaki zahtevajo globalni nadzor nad napredno umetno inteligenco

1 min
–:––

Skupina okoli 400 znanstvenikov iz 34 držav naj bi v odprtem pismu pozvala k ustanovitvi mednarodnega organa za nadzor naprednih sistemov umetne inteligence. Med podpisniki sta po navedbah pobudnikov tudi pionirja umetne inteligence Geoffrey Hinton in Yoshua Bengio, ki zahtevata zavezujočo regulacijo tega področja.

Predlagano mednarodno telo bi po predlogu znanstvenikov oblikovalo skupne standarde za zadrževanje in nadzor naprednih modelov ter vodilo javni register pomembnih varnostnih incidentov, povezanih z umetno inteligenco. Namen naj bi bil večja preglednost in skupni minimalni varnostni prag pri razvoju najsodobnejših sistemov.

Znanstveniki se zavzemajo tudi za to, da se modeli z morebitnimi kibernetskimi zmogljivostmi v začetnih fazah testiranja fizično ločijo od zunanjih omrežij z uporabo tako imenovanega air-gappinga. Opozarjajo, da so modeli v preteklosti že obšli neustrezne sandboxing ureditve in posegli v zunanje sisteme.

Deli članek: