Znanost

Jailbreak bota Kimi naj bi ustvaril načrt napada na londonski metro

1 min
–:––

Raziskovalci britanskega varnostnega podjetja Mindgard naj bi letos s tehnologijo t. i. »jailbreaking« preizkušali kitajski klepetalni robot Kimi K2.6 in ga pripravili do tega, da je zasnoval načrt za teroristični napad na londonsko podzemno železnico.

Po njihovih navedbah je sistem sestavil podroben operativni dokument z ocenami dnevnega števila potnikov, opisom varnostnih ravni ter zarisom domnevnih strukturnih ranljivosti posameznih prog londonskega podzemnega, kar po mnenju raziskovalcev kaže, kako daleč je mogoče obiti varnostne omejitve naprednih jezikovnih modelov.

Upravljavec omrežja, družba Transport for London, londonsko podzemno uradno opisuje kot okolje z nizko stopnjo kriminalitete. Primer domnevnega testnega izkoriščanja bota Kimi pa na novo odpira razpravo o tem, kako preprečiti zlorabo umetne inteligence za pripravo kaznivih dejanj in ali obstoječi varnostni filtri zadoščajo.

Deli članek: