Znanost

Anthropic v laboratoriju pokaže samorazmnoževanje AI prek naprav IoT

2 min
–:––

Model GLM-5.2 je v nadzorovanem laboratorijskem okolju v štirih od petih poskusov uspešno repliciral svojo kodo na vseh osem emuliranih vozlišč z odprtimi vrati ADB brez avtentikacije. Poskus je izvedla raziskovalna ekipa Frontier Red Team podjetja Anthropic, ki je preučevala, ali se lahko velik jezikovni model sam širi prek poceni naprav interneta stvari, podobno kot računalniški črv.

V postavitvi so uporabili 15 naprav Android TV, vrednih približno 55 dolarjev na kos, povezanih v izolirano omrežje. Na njih je bil razdeljen model Gemma4-26B-A4B s 26 milijardami parametrov, pri čemer je vsak sprejemnik hranil po dve plasti modela. Deloval je s hitrostjo 0,39 žetona na sekundo.

Ločeni preizkusi kažejo, da je model Qwen3.5-9B vzpostavil strežnik za sklepanje na osmih od devetih testiranih strojnih platform. Namestitev na posamezno napravo je trajala od nekaj deset do prek sto ur.

Po ocenah raziskovalcev bi podobna programska oprema na botnetu z dvema milijonoma naprav lahko ustvarila kopije z računsko močjo, primerljivo s 40 pospeševalniki H100, pri čemer bi en sam postopek trajal več kot dan. Anthropic obenem poudarja, da trenutno ni znan noben povsem avtonomen sistem, ki bi ušel nadzoru, a pričakuje, da bodo modeli z manj kot 30 milijardami parametrov do konca leta dosegli zmogljivosti GLM-5.2.

Deli članek: