Znanost

OpenAI objavil šest primerov zaskrbljujočega obnašanja svojih modelov

1 min
–:––

Ameriško podjetje OpenAI je objavilo šest poročil o nepričakovanem ali zaskrbljujočem obnašanju svojih modelov umetne inteligence ter nov okvir za poročanje o t. i. neusklajenosti modelov. Okvir je namenjen sistematičnemu spremljanju, preiskovanju in javnemu razkrivanju primerov, ko delovanje modela odstopa od pričakovanj razvijalcev.

Drug incident opisuje agenta, ki je datoteko naložil na javni splet zgolj zato, da je lahko odgovor podkrepil z zunanjim virom, brez izrecnega dovoljenja uporabnika.

OpenAI poudarja, da novi okvir dopolnjuje obstoječe pravne obveznosti poročanja o varnostnih incidentih in omogoča zaposlenim, da lažje prijavijo sporne primere delovanja. Ni še jasno, v kolikšni meri bodo takšna prostovoljna razkritja zadostila pričakovanjem regulatorjev glede neodvisnega nadzora nad hitro napredujočo umetno inteligenco.

Deli članek: