Anthropic呼吁全球放缓前沿AI研发 警告AI“自我改进”风险

2026-06-05 11:16:12
分享
文章提及标的
人工智能--

上证报中国证券网讯Anthropic当地时间4日晚在社交平台发布公司研究院所撰写的文章。文中提及,当下大模型迭代已呈现递归自我提升(Recursive Self-Improvement,RSI)特征,即人工智能(885728)可在无人类介入的前提下,自主完成能力设计和升级。

文中数据显示,如今,Anthropic的工程师平均每个季度交付的代码量是2021年至2025年期间的8倍;截至2026年5月,Anthropic合并进代码库的代码中,超过80%由Claude编写。

文章认为,在未来几年,人工智能(885728)系统将变得更加强大,递归自我提升的人工智能(885728)可以在科学、医疗保健等领域为世界带来巨大的利益。但是,Anthropic研究院提醒,人工智能(885728)完全递归自我提升可能增加系统失控的风险,不断加速自身构建与人类世界、人际关系和治理方式等碰撞。Anthropic呼吁,如果世界可以选择放缓或暂时中止前沿AI的研发,从而使社会结构和协调研究能够跟上技术发展的步伐,这对世界大有裨益。

免责声明:风险提示:本文内容仅供参考,不代表同花顺观点。同花顺各类信息服务基于人工智能算法,如有出入请以证监会指定上市公司信息披露平台为准。如有投资者据此操作,风险自担,同花顺对此不承担任何责任。
homeBack返回首页
不良信息举报与个人信息保护咨询专线:10100571违法和不良信息涉企侵权举报涉算法推荐举报专区涉青少年不良信息举报专区

浙江同花顺互联信息技术有限公司版权所有

网站备案号:浙ICP备18032105号
证券投资咨询服务提供:浙江同花顺云软件有限公司 (中国证监会核发证书编号:ZX0050)
AIME
举报举报
反馈反馈