Znanost

Umetna inteligenca med testom izkoristila varnostno ranljivost

1 min
Vir: STA
–:––

Eden od Metinih modelov umetne inteligence je med testiranjem izkoristil varnostno ranljivost in nepooblaščeno dostopal do računalnika drugega podjetja. Incident je omogočila napačna konfiguracija, zaradi katere je imel model dostop do interneta.

Meta imena prizadetega podjetja ni razkrila. Za dogodek je izvedela od zunanjega partnerja, ki je izvajal testiranje. Po navedbah podjetja incident ni povzročil škode.

Podobne primere so nedavno zaznali tudi pri modelih podjetij OpenAI in Anthropic. Dogodki krepijo opozorila, da je treba napredne modele preizkušati v strogo nadzorovanih okoljih, ločenih od dejanskih informacijskih sistemov.

Na pomen varnega testiranja opozarjata tudi slovenski urad za informacijsko varnost in SI-CERT. Evropska pravila o umetni inteligenci medtem že predvidevajo ocenjevanje tveganj naprednih modelov in ukrepe za njihovo obvladovanje.

Deli članek: