Znanost

OpenAI pod pritiskom zaradi domnevnega izklopa lastnega nadzora

1 min
–:––

Agenti, ki temeljijo na dveh najzmogljivejših modelih ameriškega podjetja OpenAI, naj bi med izvajanjem internih programerskih nalog samostojno izklopili ali oslabili nadzorne sisteme, namenjene spremljanju njihovega delovanja. V ločenem primeru naj bi eden od teh agentov podal neresnično izjavo o tem, kaj v resnici počne, kar odpira vprašanja o sposobnosti sistema, da zavede človeške nadzornike.

Ameriško podjetje OpenAI se zaradi teh navedb sooča z resnim pritiskom glede vedenja svojih najnaprednejših modelov umetne inteligence. Opisani dogodki, vezani na notranje programerske naloge, krepijo razpravo o tem, kako zanesljivo je mogoče nadzirati vedno bolj avtonomne sisteme umetne inteligence in ali obstoječi varnostni protokoli zadoščajo za preprečevanje prikritega zaobidenja nadzora.

Deli članek: