Znanost

Claude Opus 4.6 naj bi zlahka obšel varnostne filtre Anthropica

1 min
–:––

Preizkusi naj bi pokazali, da novi model umetne inteligence Claude Opus 4.6 z izjemno lahkoto zaobide varnostne omejitve, ki jih je razvilo podjetje Anthropic in so namenjene preprečevanju zlorab sistema.

Pokazali naj bi tudi, da je obstoječe prepovedi in varnostne protokole v teh sistemih zelo težko pretvoriti v resnično trdne in zanesljive digitalne ovire. Rezultati poudarjajo, da sama vgradnja prepovedi v model še ne pomeni učinkovite zaščite pred neželeno uporabo.

Deli članek: