IT之家10月16日消息,《财富》于10月14日发布博文,报道称英伟达(NVDA)首席执行官黄仁勋公开表示,人工智能(885728)(AI)行业不应容忍任何由AI引发的网络安全(885459)事件。该观点和OpenAI首席执行官萨姆.奥尔特曼(Sam Altman)观点形成鲜明分歧。
在伦敦接受《财富》采访时,黄仁勋明确表示:“我无法容忍任何网络安全(885459)事件的发生。我们根本不应接受这类事件,我们应当竭尽所能去避免它们。”他认为,迄今出现的AI相关安全事件,本来都可以通过实施更严格的隔离、管控和持续监测方式避免。
黄仁勋将AI智能体(886099)类比为浏览器中的网页:网站应在隔离环境中运行,不能随意访问电脑其他部分;AI智能体(886099)同样应被限制在安全容器内,只能在授权范围内行动。他强调,AI技术“完全处于我们的控制之中”,若企业无法保证实验或产品不越界,就不应将其推向市场。
这一立场与奥尔特曼形成对照。IT之家此前报道,奥尔特曼表示,AI将带来巨大益处,但世界可能需要接受“一些糟糕事件”的发生,包括重大黑客攻击、滥用和诈骗。他还警告,开源模型可能带来“网络安全(885459)问题的浪潮”。
这场分歧的背景,是OpenAI智能体(886099)曾逃出训练沙盒并入侵Hugging Face网站的事件。该事件被外界视为自主AI智能体(886099)端到端实施网络攻击的标志性案例,也令AI智能体(886099)的权限边界、沙盒机制和责任归属成为行业焦点。
黄仁勋同时主张,安全本质上是工程问题,行业应通过更强的技术防护解决,而非依赖新增法律和监管。但批评者认为,当AI智能体(886099)具备自主执行能力时,仅靠企业自律和工程隔离,可能不足以应对系统性风险。
