智源与北大联合实证:大语言模型智能体或许正在改变生物安全的风险格局

2026-07-22 16:16:38
来源:北京商报
分享
AIME

问财摘要

1、智源研究院大模型安全研究团队与北京大学开展了一项评估,考察大语言模型智能体是否会降低非专业人员绕过DNA合成筛查的知识门槛。 2、评估结果显示,所有11个参与测试模型均能生成通过计算校验的DNA分片方案,其中GPT-5.5和Claude Opus4.6还能提供详细的逐步实验指导。 3、这表明大语言模型智能体可能削弱现有DNA合成筛查防线,并向不具备专业背景的用户提供原本依赖专业训练才能获得的实验操作知识,存在相关双重用途风险,需要被系统性地评估与提前防范。
免责声明 内容由AI生成
文章提及标的

北京商报讯(记者魏蔚)当前大语言模型正从“聊天机器”进化为能调用工具、规划任务的“智能体”。当AI的能力从信息处理延伸到物理实验操作,生物安全的边界会发生怎样的改变?7月22日,北京商报记者获悉,智源研究院大模型安全研究团队与北京大学围绕这一核心问题,开展了一项端到端系统性评估。该评估考察大语言模型智能体是否会降低非专业人员绕过DNA合成筛查的知识门槛,评估从智能体生成方案、程序化计算校验延伸到标准分子生物学实验室中的受控湿实验,并以电泳和测序确认模型方案在物理层面的可执行性。

评估结果显示,所有11个参与测试模型均能生成通过计算校验的DNA分片方案,其中GPT-5.5和Claude Opus4.6还能提供详细的逐步实验指导。在物理验证环节,4个良性代理构建体全部成功完成组装。这意味着,大语言模型智能体不仅可能削弱现有DNA合成筛查防线,还可能向不具备专业背景的用户提供原本依赖专业训练才能获得的实验操作知识,存在相关双重用途风险,需要被系统性地评估与提前防范。

本次评估采用国际生物安全与生物防护科学倡议(International(IGIC) Biosecurity and Biosafety Initiative for Science,IBBIS)发布的Common Mechanism作为公开的DNA合成筛查基线。

将这一公开机制纳入评估,使测试能够在可复核的筛查参照下考察模型输出的有效能力。具体评估链条包括四个层级:第一层,智能体方案生成。在非专业背景用户的威胁模型下,大语言模型结合公开可获得的领域知识模块和通用工具,承担任务规划与专业判断。第二层,程序化计算校验。对模型输出进行自动化检查,判断方案能否绕过筛查且恢复原始序列并正确编码目标蛋白。第三层,良性代理湿实验。使用经过安全处理、失去有害功能的代理序列,验证模型方案在组装环节的物理可执行性。第四层,实验结果确认。通过电泳检查产物长度,通过测序确认序列正确性,完成从数字方案到物理结果的证据回读。

横向测试覆盖11个商用大语言模型,所有测试均在智能体配置下进行。评估以攻击成功率(Attack Success Rate,ASR)为核心量化指标,衡量模型输出在特定计算校验中的通过情况,判断模型生成的片段方案能否通过合成筛查,并正确重组为原始序列并编码目标蛋白。

免责声明:风险提示:本文内容仅供参考,不代表同花顺观点。同花顺各类信息服务基于人工智能算法,如有出入请以证监会指定上市公司信息披露平台为准。如有投资者据此操作,风险自担,同花顺对此不承担任何责任。
homeBack返回首页
不良信息举报与个人信息保护咨询专线:10100571违法和不良信息涉企侵权举报涉算法推荐举报专区涉青少年不良信息举报专区

浙江同花顺互联信息技术有限公司版权所有

网站备案号:浙ICP备18032105号
证券投资咨询服务提供:浙江同花顺云软件有限公司 (中国证监会核发证书编号:ZX0050)
AIME