破解信息茧房困境 平台企业应该做什么
编者按:
平台算法监管旋风
11月24日,中央网信办秘书局、工信部办公厅、公安部办公厅、国家市场监管总局办公厅等四部门宣布联合开展“清朗·网络平台算法典型问题治理”专项行动,即日起至2025年2月14日对网络平台算法存在的典型问题进行重点整治。专项行动聚焦多个重点问题,包括同质化推送营造“信息茧房”、违规操纵干预榜单炒作热点、盲目追求利益侵害新就业形态劳动者权益、利用算法实施大数据“杀熟”以及算法向上向善服务缺失侵害用户合法权益等。
如今,大多数互联网用户都会有这样的体验:当你打开一款新闻资讯或短视频App时,会发现推送的内容总是与你兴趣高度契合。
这种“贴心服务”的背后,是“推荐算法”在发挥作用。算法根据用户的兴趣、行为习惯以及社交关系,为其量身定制内容。这种机制让用户逐渐养成了依赖平台推荐的习惯,而非主动搜索信息。
然而,算法在带来便利的同时,也无形中限制了用户的视野,使其陷入信息茧房。在这样的环境中,用户越来越多地接触到与其兴趣和观点相符的信息,从而形成一种自我强化的封闭生态,忽略甚至排斥与自身认知不符的内容。
针对算法问题,监管部门也展开了新的行动。11月24日,中央网信办秘书局、工信部办公厅、公安部办公厅、国家市场监管总局办公厅等四部门宣布联合开展“清朗·网络平台算法典型问题治理”专项行动,即日起至2025年2月14日对网络平台算法存在的典型问题进行重点整治。
专项行动聚焦多个重点问题,包括同质化推送营造信息茧房、违规操纵干预榜单炒作热点、盲目追求利益侵害新就业形态劳动者权益、利用算法实施大数据“杀熟”以及算法向上向善服务缺失侵害用户合法权益等。
针对此次专项行动,记者问询了多家网络信息平台企业,相关平台企业不予置评。
工信部信息通信经济专家委员会委员盘和林向21世纪经济报道记者表示,专项行动的意义在于:一是维护网络安全与公共利益,防止信息茧房强化负面情绪并引发社会分裂;二是保护消费者权益,避免企业通过算法收割用户;三是促进算法的良性发展,推动数字技术高质量发展。
强化平台算法责任
事实上,对于信息茧房效应,业界一直存在争议。但可以确认的是,算法基于兴趣的个性化推荐,确实收窄了用户的信息接收范围,并减少了接收差异化讯息的可能性。
一位资深互联网人士向21世纪经济报道记者表示,信息茧房正成为认知偏见的放大器。信息茧房通过强化用户的已有偏好,使“确认性偏见”(confirmation bias)愈发严重。这不仅让用户忽略其他重要信息,还可能导致误判。
“同时,信息茧房降低了不同群体之间的对话意愿和能力。人们往往认为自己接触到的信息是全貌,而与其他观点冲突时,可能采取攻击性或防御性姿态。这种趋势可能进一步导致社会分裂和对立。”该人士指出。
最初,是少量用户提前意识到了信息茧房的存在,于是他们试图通过自己的一些行为,来摆脱算法的影响。比如有的用户选择隐藏自己的行为,不点赞、不关注、不评论,让算法摸不清自己;有的用户则是严格控制自己使用各App的时间,与算法引发的沉浸效应做对抗。
这些努力,确实能够降低算法的影响,但对绝大多数互联网用户来说,做起来很难,甚至也会失去很多乐趣。因此,更有效的方式应该是从算法本身着手,让平台承担起算法责任,这也是近年来,国家对算法监管的主要思路。
比如2020年3月1日起施行的《网络信息内容生态治理规定》提出,网络信息内容服务平台采用个性化算法推荐技术推送信息的,要建立健全人工干预和用户自主选择机制。
2022年3月1日起施行的《互联网信息服务算法推荐管理规定》,则是中国首部聚焦算法治理的立法,该规定针对算法推荐服务提供者提出全方位的义务和禁止性要求,提出算法安全风险监测、算法安全评估、算法备案管理等一系列监管举措,进一步强化了平台企业的算法安全责任。
让算法变得更透明
这次专项行动,针对信息茧房问题也提出了具体的治理任务,包括构建信息茧房防范机制,提升推送内容多样性丰富性;严禁推送高度同质化内容诱导用户沉迷;不得强制要求用户选择兴趣标签,不得将违法和不良信息记入用户标签并据以推送信息,不得超范围收集用户个人信息用于内容推送;规范设置“不感兴趣”等负反馈功能。
记者注意到,在算法专项治理清单指引中,监管部门针对信息茧房也设置了5个核验要点,分别是用户兴趣选择、用户标签管理、“不感兴趣”功能设置、防沉迷举措成效、个人信息权益保障。
国内某内容平台的相关负责人告诉记者,这些要求中的许多要求,现在各个平台基本都能做到。比如在用户兴趣选择方面,允许用户跳过标签选择页面;向用户提供“不感兴趣”选项,减少同类内容推送频率等。
但是,像“提供兴趣标签查看功能,向用户展示用于内容推送的个人兴趣标签”“向用户提供用于个性化推荐服务的个人兴趣标签管理功能”等,目前几乎没有平台可以做到。
该负责人表示,这些标签通常都存在于企业内部系统当中,一旦开放给用户且让用户可以自己管理,那对现有的推荐系统会带来较大影响。
因此,这次专项行动或许会对内容平台的发展产生深远影响。毕竟,信息茧房现象的根源之一就是商业化算法的驱动。
尽管在技术层面,算法是中立的,但其运用却往往带有明确的商业目标。比如为了提高用户黏性和点击率,平台往往优先推荐“迎合”用户兴趣的内容,而忽视内容的多样性和平衡性。
因此,平台需要引入“去极化”的算法设计,包括在向用户提供兴趣内容的同时,主动推送与其认知框架不同的优质信息;以及增加推荐机制的透明度,让用户能更主动地选择信息来源。
盘和林认为,平台需要强化算法治理体系建设,提升算法透明度,同时要给出用户权益保护的具体措施。他还提出,算法推荐不适用于避风港原则,平台不可以用这个原则封闭自身算法规则机制。
信息茧房是数字时代技术与人性结合的产物,它既是对便利性的过度追求,也是社会多样性失衡的缩影。而打破信息茧房,离不开技术、平台、用户和政府的多方协同。
从长远来看,治理信息茧房不仅关乎每个人的信息权益,更关乎社会的整体健康发展。只有通过多方努力,人们才能真正走出“茧房”,在技术便利与信息多样性之间找到平衡。
0人
- 每日推荐
- 股票频道
- 要闻频道
- 港股频道
- “机构举报游资”?传闻求证:不实
- 国家统计局:10月份国民经济运行稳中有进,主要经济指标回升明显
- 宁德时代自研机器人并接触多家外部公司
- 机构论市:AI催化下影视、游戏板块或迎业绩+估值双重修复
- 鲍威尔放鹰:美联储无需急于降息!
- 中信证券:资产保值增值为股市客户核心痛点 高客与大众需求明显分化
- 腾讯推出AI搜索ima 机构看好科技产业围绕AI展开(附概念股)
- 11月15日盘前停复牌汇总
- 大模型祛魅 AI应用时代脚步临近