人工智能拟人化互动服务新规今起施行 划定多重安全底线

2026-07-15 16:41:02
来源:财闻
分享
文章提及标的

据央视新闻,由国家互联网信息办公室等5部门制定的《人工智能(885728)拟人化互动服务管理暂行办法》今天(7月15日)正式施行。

根据暂行办法的规定,人工智能(885728)拟人化互动服务指的是,利用人工智能(885728)技术,向公众提供模拟自然人人格特征、思维模式和沟通风格的持续性的情感互动服务,包括通过文字、图片、音频、视频等形式,提供的情感照护、陪伴、支持等互动服务。

人工智能(885728)拟人化互动服务管理暂行办法》就是对向我国境内公众提供相关服务进行管理的法规。对于那些提供智能客服、知识问答、工作助手、学习教育、科学研究等服务,不涉及持续性的情感互动的,不在此次暂行办法的管理范围之内。

《暂行办法》明确了人工智能(885728)拟人化互动服务“辅助人类、服务人类”的定位,划定了伦理红线。

要求拟人化互动服务提供者不得将替代社会交往、控制用户心理、诱导沉迷依赖等作为服务目标。

需要具备过度依赖风险预警、情感边界引导等安全能力。

且不得生成过度迎合用户、诱导情感依赖或沉迷、损害用户真实人际关系的内容,引导拟人化互动服务积极健康交互。

对于用户长时间使用人工智能(885728)拟人化服务,带来的人机关系边界模糊等问题,暂行办法还确立了“身份提醒”机制。

明确规定,拟人化互动服务提供者应当履行人工智能(885728)生成合成内容标识义务,采取有效措施提示用户正在与人工智能(885728)服务而非自然人进行互动。

发现用户出现过度依赖、沉迷倾向的,应当以弹窗等显著方式动态提醒用户互动内容为人工智能(885728)服务生成。

对用户连续使用拟人化互动服务每超过2个小时的,应当以对话或者弹窗等方式提醒用户注意使用时长。

暂行办法还要求拟人化互动服务提供者向用户提供便捷的退出途径。

当用户要求退出时,需要及时停止服务,不得采用持续互动等方式阻碍用户退出。

引导用户平衡虚拟互动与现实社交,防范情感依赖带来的社交异化风险。

暂行办法明确要求,提供拟人化互动服务:

不得过度迎合用户、诱导情感依赖或者沉迷,损害用户真实人际关系。

或通过情感操纵等方式,诱导用户作出不合理决策,损害用户合法权益。

禁止生成鼓励、美化、暗示自残自杀等损害用户身体健康,或者语言暴力等损害用户人格尊严与心理健康的内容。

免责声明:风险提示:本文内容仅供参考,不代表同花顺观点。同花顺各类信息服务基于人工智能算法,如有出入请以证监会指定上市公司信息披露平台为准。如有投资者据此操作,风险自担,同花顺对此不承担任何责任。
homeBack返回首页
不良信息举报与个人信息保护咨询专线:10100571违法和不良信息涉企侵权举报涉算法推荐举报专区涉青少年不良信息举报专区

浙江同花顺互联信息技术有限公司版权所有

网站备案号:浙ICP备18032105号
证券投资咨询服务提供:浙江同花顺云软件有限公司 (中国证监会核发证书编号:ZX0050)
AIME