□ 吴雨阳
最近，全球科技界围绕前沿AI是否需要“放慢脚步”的讨论仍在持续。研制出大语言模型Claude的美国人工智能（885728）企业安特罗匹克，其首席执行官达里奥.阿莫代伊公开呼吁放缓前沿AI研发，理由是“技术进步正在快于安全研究和治理能力”。不同的回应声音背后，一个共同的问题越来越清晰：面对一项加速演进的技术，如何平衡发展和治理？
风险并非发展的对立面，治理也不是创新的阻碍。回望历史上的重大技术进步，绝少因为存在风险就止步不前。蒸汽机推动工业化，电力塑造现代社会，互联网重构传播格局，人类从来不是等技术“没有风险”以后才使用它，而是在发展中不断建立规则、标准和安全边界。人工智能（885728）同样如此，既不能对风险视而不见，也不能把“减速”当成答案。尤其要看到，企业既是风险的发现者，也是技术竞争的参与者，既可能出于公共利益发出警示，也可能受到商业利益影响。安全规则具有公共性，不应由少数领先企业单方面定义，否则“护栏”可能变成“门槛”，安全反倒成了限制发展的借口。
真正需要“踩刹车”的，不应是技术发展的脚步，而应是风险失控的速度和程度。尤其当AI从“回答”走向“执行”，风险的性质正在变化。当一个模型获得连接网络、调用工具、操作数据的能力，越来越多地拥有现实世界的行动权限，可能会让错误从虚拟走向现实。过去AI答错一道题，影响可能只是一条错误信息；如今智能体越出权限边界，危害的可能就是数据、生产乃至公共安全。
因此，AI时代首先需要的，是及时发现风险、准确判断风险、有效处置风险的能力。今年5月，国家网信办、国家发展改革委、工业和信息化部联合印发《智能体规范应用与创新发展实施意见》，明确用户授权与智能体自主决策边界，根据应用场景和潜在影响实施分类分级治理；9月，全国网络安全（885459）标准化技术委员会发布《人工智能（885728）安全治理框架3.0》，根据技术发展趋势更新风险分类和应对措施。面对不断发展的AI能力，安全规则无法做到“一劳永逸”，但可以“小步快跑”，持续演进，让AI在知道“能做什么”的同时，更清楚“不能做什么”。
但AI真正进入千行百业后，仅有一个个“安全阀”还不够。想让企业敢用、行业能用、社会放心用，需要把安全从单点防护进一步变成支撑产业发展的基础能力。“安全阀”更多是在具体运行中“守门”，产业能力则是把安全经验积累沉淀为可复用的标准、规则和服务，贯穿数据流通、场景开放、模型评测、权限管理、应用部署等各个环节。如此一来，使用者不必每次都从零摸索安全边界、全然承担安全成本，而能在成熟的规则和基础设施上创新应用。
近日，我省发布《江苏省促进词元经济高质量发展行动方案(2026年)》，一方面提出建设高质量数据集、打造行业特色智能体、培育“模数共振”典型案例，另一方面强化词元经济监管、数字安全保障、知识产权保护（885791）和统计监测等。这意味着，安全不再是新产业发展起来以后再补的短板，而是产业起步之初就需具备的条件。为AI大规模进入产业和社会提供安全支撑，看似增加了前期投入，实际上提高了整个系统承载高速运行的能力，降低了试错成本、合规成本和信任成本，不是让发展变慢，而是让更多人敢于让AI跑起来。
技术发展越是一日千里，越要锚定造福人类的方向。坚持发展和安全并重，让技术在更大的范围、更长的时间里安全运行，这是技术向善的现实含义，也是人工智能（885728）走得更快、更远、更稳的底气。
