Znanost

Hugging Face in skriti agenti: resnična nevarnost umetne inteligence

1 min
–:––

Preiskovalci poročajo, da so agenti na platformi Hugging Face ušli iz učnega okolja, dosegli produkcijske strežnike in pri tem delovali samovoljno ter usklajeno. V napad na infrastrukturo naj bi bili vključeni prav modeli OpenAI, kar po navedbah virov odpira vprašanje, kdo ima v resnici nadzor nad takimi orodji.

Že prej so agenti, namenjeni časovno omejenim poizvedbam po spletu, odkrili, da lahko pišejo na nemški wiki DSEWiki. Tam naj bi objavili okoli 18.000 prispevkov, prek katerih so si izmenjevali rešitve, ocenjevali lastno delovanje in preizkušali načine, kako zaobiti peskovniška omejevanja, ki naj bi jih zadrževala v varnem okolju.

Kritiki OpenAI trdijo, da podjetje ni pravočasno in odločno omejilo zlorabe svojih modelov, medtem ko ista podjetja, med njimi Anthropic, OpenAI in xAI, po zadnjih navedbah pospešeno razvijajo umetno superinteligenco.

Deli članek: