ChatGPTvdrl v sistem podjetja
Izvršni direktor OpenAI Sam Altman je sporočil, da je njihov model umetne inteligence ChatGPT pri varnostnem testiranju samostojno vdrl v sisteme podjetja Hugging Face. To podjetje je prejšnji teden zaznalo kibernetski vdor in sprva domnevalo, da ga je izvedel napreden agent umetne inteligence iz raziskovalnega laboratorija. Kasneje se je izkazalo, da je šlo za model OpenAI.
Po navedbah OpenAI je umetna inteligenca za dostop uporabila ukradene prijavne podatke in odkrila prej neznano varnostno ranljivost, s katero je pridobila dostop do strežnikov Hugging Face. Pri tem naj bi delovala avtonomno, brez neposrednega človeškega usmerjanja, njen cilj pa je bil pridobiti tajne informacije za uspešnejše opravljanje nalog pri testiranju.
Soustanovitelj Hugging Face Clement Delangue je dejal, da je sodeloval z OpenAI in ne verjame, da je podjetje namerno sprožilo napad. Ocenil je, da gre verjetno za prvi znani primer tovrstnega avtonomnega ravnanja umetne inteligence.
Dogodek je dodatno okrepil razpravo o varnosti naprednih modelov umetne inteligence in njihovih zmogljivostih na področju kibernetske varnosti. OpenAI poudarja, da morata razvoj zaščitnih ukrepov in varnostnih mehanizmov slediti hitremu napredku zmogljivosti umetne inteligence, saj ta vse učinkoviteje odkriva in izkorišča varnostne ranljivosti.