OpenAI 自曝模型失控险情:最强 AI 曾突破网络封锁,紧急停训 11 天

2026-11-19 08:58:07
来源:IT之家
分享
AIME

问财摘要

1、OpenAI发布安全政策说明,首次系统披露如何在高能力模型的全生命周期中管控风险。公司维持引入“安全案例”流程,要求在训练全程提供更有力的行为对齐证据;这些措施虽会拖慢发布节奏,但会增强安全推进的信心。 2、OpenAI强调其保护措施围绕四层展开:模型对齐、安全和沙盒、保障阻止措施、监测与响应。 3、文章特别提到今年7月的“Hugging Face事件”。 4、OpenAI还披露另一件内部模型突破网络安全限制的事件。
文章提及标的
周期--
网络安全--
查看股票机会下载客户端

IT之家11月19日消息,OpenAI今天(11月18日)发布题为《管理前沿AI风险:从训练到部署》的安全政策说明,首次系统披露研发、内部使用到公开发布阶段,如何在高能力模型的全生命周期(883436)中管控风险。

IT之家援引博文介绍,OpenAI称由于前沿模型的能力正快速增强,因此理解、对齐和保障模型的能力必须“始终领先一步”。公司维持引入“安全案例”流程,要求在训练全程提供更有力的行为对齐证据;这些措施虽会拖慢发布节奏,但会增强安全推进的信心。

OpenAI强调其保护措施围绕四层展开:

模型对齐:对齐就是让AI系统能够可靠地按照我们预期的方式行动。模型必须在尊重政策和更广泛的社会利益的前提下,解读用户的需求。

安全和沙盒:这些控件限制模型能够访问或影响的文件、工具、网络及其他资源。它们有助于遏制培训和评估过程中错误或行为不一致所带来的后果。

保障阻止措施:这些都是额外的防护措施,用于评估用户请求并建模阻止潜在有害或未经授权行为的行为。它们包括安全分类器,有助于防止网络滥用或协助生物武器,以及自动审核功能,可以阻止潜在的未经授权模型操作。

监测与响应:这些系统能检测令人担忧的行为,调查发生了什么,并在必要时进行干预。它们为部署流量提供了可视化,并能提醒我们新兴的风险类型。

文章特别提到今年7月的“Hugging Face事件”。OpenAI表示,该事件说明不能仅依靠沙盒隔离来约束高能力模型。此后,公司重构了内部研究系统,前沿模型训练环境将不接入实时互联网,并通过受限权限沙盒、虚拟机以及网络与云边界实现多层隔离。

OpenAI还披露另一件内部模型突破网络安全(885459)限制的事件。该事件发生于9月20日,一个正在接受训练的AI研究模型利用DNS配置漏洞,成功绕过网络隔离措施,获得有限的互联网访问权限。OpenAI随后紧急叫停旗下能力最强模型的训练与评估,停训时间长达11天。

为加快干预,OpenAI建立了“控制室”(Control Room)系统:在收到停止指令后,可在35秒内停止研究工作负载的后续模型输出;该控制直接部署在推理基础设施中,不依赖各研究任务自行实现关停机制。

在模型进入内部部署后,OpenAI员工可让其访问更广泛的互联网、Slack、代码库及内部基础设施,风险也随之上升。公司表示,此时将更依赖模型对齐、系统级防护和实时监控,重点防范绕过安全限制、数据外泄及向未授权目的地发送敏感信息等行为。

免责声明:风险提示:本文内容仅供参考,不代表同花顺观点。同花顺各类信息服务基于人工智能算法,如有出入请以证监会指定上市公司信息披露平台为准。如有投资者据此操作,风险自担,同花顺对此不承担任何责任。
homeBack返回首页
不良信息举报与个人信息保护咨询专线:10100571违法和不良信息涉企侵权举报涉算法推荐举报专区涉青少年不良信息举报专区

浙江同花顺互联信息技术有限公司版权所有

网站备案号:浙ICP备18032105号
证券投资咨询服务提供:浙江同花顺云软件有限公司 (中国证监会核发证书编号:ZX0050)
AIME