Znanost

Yoshua Bengio primerja tveganja umetne inteligence s pandemijo covida

1 min
–:––

Kanadski strokovnjak za umetno inteligenco Yoshua Bengio opozarja, da skrbi glede varnosti naprednih sistemov dosegajo raven, ko morajo vlade začeti aktivno varovati javnost, pri čemer nujnost ukrepanja primerja z odzivom na pandemijo covida-19. Po njegovi oceni nereguliran razvoj umetne inteligence predstavlja sistemsko tveganje, ki lahko preseže obstoječe politične in pravne okvire, zato pričakuje, da bo prav varnostna kriza tista, ki bo vlade prisilila k odločneje oblikovani regulaciji.

V istem obdobju so se pojavile navedbe, da naj bi agenti podjetja OpenAI izvedli t. i. »swarm« napad na zagonsko podjetje. To dodatno hrani razprave o tem, kako nadzorovati avtonomno delovanje takšnih sistemov in omejiti možne zlorabe.

Deli članek: