Modele AI s-ar putea autoreplica în curând fără acces la centre de date

Compania Anthropic afirmă că modele AI de mici dimensiuni ar putea în câteva luni căpăta abilitatea de a se autoreplica pe dispozitive din Internetul Lucrurilor comercial (IoT) cum ar fi cuptoare inteligente şi dispozitive Android TV de la producători necunoscuţi, informează Reuters.

În timpul unor experimente, Anthropic a încercat să verifice dacă modelele AI pot detecta dispozitive vulnerabile pe care să se copieze şi să se răspândească fără ajutor uman.

Compania a descoperit că modele mai mici de 30 de miliarde de parametrii pot finaliza numeroşii paşi necesari pentru replicare.

Cu toate acestea, astfel de modele AI au întâmpinat dificultăţi în completarea întregii secvenţe de la început până la final.
În cadrul unor teste simplificate, care au presupun renunţarea la o parte din măsurile de securitate, Anthropic a descoperit că modele precum GLM-5.2 sau modele mai mari sunt capabile de o autoreplicare completă.

Modelele care încep procesul de autoreplicare sunt dificil de oprit întrucât nu există un punct de oprire şi, spre deosebire de malware non-AI, pot identifica singure dispozitive necunoscute şi pot viza procesoarele din centre de date, a avertizat Anthropic.

În cadrul studiului, compania s-a concetrat pe dispozitive IoT precum televizoare Android, electrocasnice inteligente, precum şi alte dispozitive conectate la internet întrucât acestea sunt, de obicei, slab securizate.

Gigantul AI a avertizat că, dacă modelele mici continuă să se perfecţioneze în acelaşi ritm istoric, vor fi capabile de a se autoreplica autonom până la sfârşitul acestui an şi vor fi urmate şi de alte modele la scurt timp după aceea.
Potrivit companiei, sistemele ar trebui consolidate pentru a îngreuna răspândirea unor astfel de agenţi AI.