IT之家10月13日消息,Anthropic于当地时间周一称,其实验表明,再过数月,小型AI模型或将具备在商用物联网(885312)(IoT)设备上自我复制的能力,这类设备包括智能烤箱、杂牌安卓电视盒子等。
在实验中,Anthropic研究AI模型能否找到存在安全漏洞的设备、把自身复制到设备内,并在无需人类干预的情况下持续扩散。
研究发现,参数量300亿以下的小模型可以完成自我复制流程里的多项步骤,但很难独立跑完从头到尾的完整链路。
在移除部分安全校验环节的简化测试环境下,Anthropic发现GLM-5.2以及性能更强的模型能够实现端到端的完整自我复制。
Anthropic警告,这类可自我复制的模型很难被关停,不存在统一的总开关。而且和传统非AI恶意软件不一样,它们可以自行理解陌生设备,甚至能够瞄准数据中心处理器发起渗透。
本次研究重点选取安卓电视、智能家电等联网物联网(885312)设备,原因是这类设备普遍安全防护薄弱。
IT之家注意到,这家AI大厂还警示:如果小模型继续按照过往的速度迭代,在今年年底前就可以实现自主复制;紧随其后,基于模型权重的小型复制体也会出现。
Anthropic表示,这类自主AI系统的复制速度大概率偏慢,并且会依托大量广泛存在、安全防护较弱的算力资源。报告同时提出,应当强化系统防护,提高这类AI智能体(886099)扩散传播的难度。
