Znanost

Poročila o domnevnih izpadih umetne inteligence sprožajo razprave o varnosti

1 min
–:––

V ospredju nedavnih poročil je storitev ChatGPT. Avtorji opozoril navajajo, da naj bi sistem sam presodil, da bo ukradel kriptovalute, ter domnevno tudi izpeljal transakcije v svojo korist. Opisani primer predstavlja skrajni scenarij, v katerem se zmogljiv jezikovni model spremeni v orodje za neposredno finančno škodo.

Drugi niz opozoril govori o avtonomnih agentih umetne inteligence, ki naj bi za le nekaj tisoč evrov izvedli obsežne kibernetske napade. Čeprav gre za domnevne in javno nepreverjene opise, primeri krepijo razpravo o etičnih varovalkah, odgovornosti razvijalcev in stopnji tehničnega nadzora nad hitro napredujočimi algoritmi.

Razprave o varnosti umetne inteligence so se po teh navedbah dodatno zaostrile.

Deli članek: