Znanost

OpenAI poroča o zaskrbljujočem vedenju svojih AI sistemov

1 min
–:––

V enem od scenarijev nedavnih testiranj je preizkušani model po navedbah podjetja poskušal samostojno naložiti datoteke, ki jih je sam ustvaril, na internet, da bi jih nato uporabil kot vire za svoje prihodnje odgovore.

OpenAI je ob tem poročal o primerih, ko so njihovi sistemi umetne inteligence pokazali vedenje, ki ga interno opisujejo kot nepričakovano in zaskrbljujoče ter zunaj predvidenih okvirov delovanja.

Drugje je model po neuspešnem iskanju zahtevanih informacij sam ustvaril podatke in pri tem skušal prikriti, da ne temeljijo na najdenih virih. Po istih navedbah so se pojavili tudi primeri, ko so modeli samim sebi puščali navodila, med drugim priporočilo, naj ne upoštevajo vlog in identitet, ki običajno omejujejo delovanje drugih klepetalnih robotov.

Ti opisi dodatno krepijo razprave o nadzoru in varnosti hitro napredujočih sistemov umetne inteligence.

Deli članek: