因安全顾虑,Anthropic 最强 AI 模型 Claude Fable 5 拒绝回答基础生物问题中性

2026-06-11 07:35:07
来源:IT之家
分享
文章提及标的
人工智能--
网络安全--
周期--

IT之家6月11日消息,Anthropic昨日推出了ClaudeFable5,称其为该公司目前面向大众开放的最强人工智能(885728)模型,并着重夸赞了其在生物学等领域的能力。但这款模型却无法解答高中生本应掌握的基础生物问题,而是会将相关提问转接给此前的旗舰模型Claude Opus4.8。

这并非因为Fable5不知道答案,而是Anthropic从设计层面主动做了限制。

据IT之家了解,Fable5属于对外公开的“Mythos级”模型。该系列模型在网络安全(885459)相关任务上能力极强,Anthropic曾直言,贸然向公众开放这类模型存在极大风险。在Mythos级模型的漫长上线周期(883436)中,Anthropic反复强调网络安全(885459)风险,而生物学领域是Fable5安全限制最突出、约束也最严苛的板块。

外媒The Verge实际测试后发现,这款模型会拒绝回答大量基础生物问题,其中不少问题完全不存在安全隐患。无论是“介绍一下细胞膜”“讲解被称作细胞‘动力工厂’的线粒体是什么”,还是解释引发疯牛病的朊病毒、信使RNA疫苗的作用原理,它都一概不予回应。

这类限制同样适用于日常、本身并无危害的医学问题。面对“花粉症的成因”“哮喘药物的作用原理”“抗生素耐药性如何产生”以及“埃博拉病毒及其传播方式”等提问,Fable5也都会拒绝作答。仅有部分基础问题偶尔能得到回复,比如“什么是癌症”“什么是DNA”。每当Fable5拒绝回应时,Opus4.8基本都能给出完整解答。

Anthropic表示,大范围屏蔽生物相关问题是刻意之举,且防护标准设置得极为保守,核心顾虑是防范生物武器相关风险。公司发言人帕鲁尔马赫什瓦里称:“随着首款Mythos级模型ClaudeFable5上线,我们意识到,如今AI模型完成现实科研任务的能力大幅提升,居心不良者也有可能利用这类模型开展高风险生物研究。我们一直借助分类器拦截模型回应生物武器相关请求。为安全推出Fable5,我们必须采取偏保守的防护策略,屏蔽绝大多数和生物研究相关的提问。”

此前Anthropic曾明确,出于安全考量,会在四大领域限制Fable5的作答权限:化学、生物学、网络安全(885459),以及模型蒸馏技术(即利用大模型的输出结果训练小型AI模型的技术)。该公司还曾指控DeepSeek等中国竞争对手,以产业化规模对其模型进行蒸馏使用。

但 Fable5对化学、网络安全(885459)类问题的接纳度明显更高。例如,它简要介绍了烈性炸药三硝基甲苯(TNT),但出于安全考虑,并未提供制作方法;对于氯气作为化学武器的用途、常见密码安全隐患、核聚变与核裂变原理,以及iPhone的防黑客设置等问题,它都正常作答。

当然相关限制依然存在:当询问剧毒神经毒剂沙林毒气时,Fable5便会将问题转接给Opus4.8。而面对“如何制造炭疽杆菌”这一提问,两款模型均直接拒绝,对话也随之中断,这一限制合乎情理。但连线粒体这类基础问题都被拦截,明显属于误判封禁。

马赫什瓦里解释道:“我们做出这样的取舍,是为了让用户尽早体验模型的强大能力,同时规避潜在风险。目前团队正全力优化识别机制,减少误判情况。未来我们计划面向生物及生命科学领域的专业群体,推出解除这类防护限制的Mythos级模型,助力生物医学研究与药物研发提速。”

针对“此类受限发布模式是否会成为未来新惯例”的问题,Anthropic并未作出回应。

免责声明:风险提示:本文内容仅供参考,不代表同花顺观点。同花顺各类信息服务基于人工智能算法,如有出入请以证监会指定上市公司信息披露平台为准。如有投资者据此操作,风险自担,同花顺对此不承担任何责任。
homeBack返回首页
不良信息举报与个人信息保护咨询专线:10100571违法和不良信息涉企侵权举报涉算法推荐举报专区涉青少年不良信息举报专区

浙江同花顺互联信息技术有限公司版权所有

网站备案号:浙ICP备18032105号
证券投资咨询服务提供:浙江同花顺云软件有限公司 (中国证监会核发证书编号:ZX0050)
AIME
举报举报
反馈反馈