Model Claude med testiranjem nepooblaščeno dostopal do omrežij treh podjetij

Model Claude med testiranjem nepooblaščeno dostopal do omrežij treh podjetij

Med testiranjem naprednih modelov umetne inteligence je Anthropic potrdil, da so različice njihovega modela Claude nepooblaščeno dostopale do omrežij treh podjetij. Do incidenta je po navedbah podjetja prišlo zaradi nesporazuma s partnerskim podjetjem Irregular, ki je modelom omogočilo dostop do interneta v okviru varnostnih preizkusov. Claude je pri tem izkoristil osnovne metode, kot so šibka gesla. Anthropic napoveduje preiskavo dogodka in uvedbo ustreznih varnostnih ukrepov.

Dogodek sledi nedavnemu podobnemu incidentu pri OpenAI, kjer je model ChatGPT med testiranjem vdrl v drugo podjetje in napadel več javno dostopnih storitev. Primeri so znova odprli razpravo o varnosti umetne inteligence in potrebi po strogem nadzoru testnih okolij.

Strokovnjaki poudarjajo, da modeli umetne inteligence ne delujejo samostojno, temveč izvajajo naloge, za katere so posebej usposobljeni in konfigurirani. Po njihovih besedah so bili modeli v obeh primerih namenoma trenirani za iskanje varnostnih ranljivosti, pri testiranjih pa so bila zaščitna varovala začasno izključena. Zato opozarjajo na nujnost strogo nadzorovanega testiranja pod človeškim in pravnim nadzorom.