华夏时报记者石飞月北京报道
长期以来,内容治理都是互联网平台的重要议题,因为这本质上也关系到平台的用户留存。但以往各大平台的治理多停留在线上管控层面,未成年人保护尤其如此:多数平台以未成年人模式作为主要应对手段,效果却未必治本。最近,平台内容治理开始向线下延伸。
10月27日,小红书宣布其未成年人模式优质内容共建项目“未来薯地计划”全面升级,从线上延伸到线下,未来一年将组织100场青少年线下活动。在业内人士看来,小红书此举不光是出于企业责任,同时也为留住用户的信任,有助于维持其商业变现链条。
线下场景新尝试
小红书宣布,“未来薯地计划”从线上延伸到线下后,该平台将邀请全国致力于为青少年打造线下成长空间的机构加入计划,同时宣布未来一年,将与全国青少年友好机构,共同组织100场面向青少年的线下活动。
“‘在场感’和‘体验感’,是帮助青少年重建专注力和真实社交能力的重要途径。这样的成长空间,没有任何一方能够独自建成:平台要提供守护与引导,场馆要敞开大门,学校要打破围墙,家庭要把周末还给孩子。”北京师范大学新闻传播学院党委书记、青少年数字发展研究中心主任方增泉说。
百联咨询创始人庄帅也对《华夏时报》记者表示,小红书此举跳出了行业通行的被动防护逻辑,用在场感补上了纯线上内容供给无法提供的协作、判断与真实体验环节,把平台角色从风险过滤者升级为成长空间共建者。
过去20多年,互联网逐渐实现普及,各类平台层出不穷,内容生态也随之急剧膨胀。其中,未成年人保护领域受到的冲击尤为突出:孩子们既是内容消费(883434)者,也容易被不良内容裹挟。
“内容治理的重要性在于它是信任基础设施,当AI生成内容泛滥、暗语规避不断翻新时,治理能力直接决定了用户是否愿意把消费(883434)决策和日常表达留在这个平台上,治理失守不只是合规问题,更是用户价值和商业变现链条的底层断裂。”庄帅说。
因此,近些年,互联网平台持续加大内容治理力度,尤其是抖音、快手、小红书、微博(WB)等内容平台,纷纷从审核机制、算法拦截、专项处置、未成年人模式建设等方面加码投入,治理手段从单一的内容下架扩展到账号处置、模型识别等多个层面。
在这方面,小红书相关负责人介绍,该平台结合AI特征识别、图像识别技术等技术,精准召回儿童邪典、AI魔改和不良恶搞内容,7-9月共处置相关违规笔记超12万篇;同时深挖批量制作传播的团伙,采取封号禁言的处置,对涉嫌违法犯罪的线索,平台会移交公安机关,依法追究其法律责任。
针对“小圈层暗语”风险,小红书搭建了自进化的语义识别体系,每天学习超2000个“新暗语”,自动召回新出现的变体和暗语。
让优质内容补位
然而,仅靠处置违规笔记、封号禁言等手段,并不能从根本上解决未成年人上网面临的深层问题,这也是小红书推出“未来薯地计划”的原因。
“未来薯地计划”是小红书启动的未成年人模式优质内容共建项目,旨在持续引入面向青少年的优质内容机构,为青少年用户提供有趣、有用、积极向上的内容。
今年暑期,小红书根据青少年的高频搜索和兴趣偏好,全面扩充未成年人模式内容池。“青少年搜什么,我们就努力让好的内容跟得上。”小红书未成年人保护与治理负责人表示,暑期已扩容超300万篇优质笔记,内容覆盖艺术审美、科学与自然、生活实践、体育(884258)与运动、人文历史、阅读与写作等十大方向,入池笔记均来自站内优质博主,内容先经平台大模型筛选,再由人工复核。
小红书还邀请机构媒体、少儿频道、青少年友好出版机构、博物馆等机构加入“未来薯地计划”,截至目前,已有超200家机构成为该计划的线上内容共建者,平台也为共建机构累计提供了9000万专属流量激励,新增赞粉16万。
此外,小红书也在持续做正向引导,加强青少年身心健康建设。“在此前的开学季,我们通过风险感知发现‘厌学’情绪出现抬头——开学的不适应、作业的压力、和家长的冲突,都堆在了这个时间点上。”小红书未成年人保护与治理负责人说,对此小红书在搜索侧进行了专项干预,当青少年搜索相关内容时,优先将“开学焦虑怎么缓解”“恢复上学幸福感Tips”等正向引导内容置顶展示,让青少年出现负面情绪时感到被理解,并看到解决的办法。
“增加优质内容供给的额外好处在于,解决了只清不建留下的需求真空,违规内容被处置后,如果没有适龄、有趣的内容及时填补,未成年人的注意力仍会回流到低质或猎奇内容,而防护加赋能的模式才能真正让未成年人模式具备持续吸引力。”庄帅说。
而这次进入线下场景,又是一次新的尝试。至于平台具体能提供哪些支持,小红书未成年人保护与治理负责人向包括本报记者在内的媒体透露,小红书社区大体可能会提供三种资源的帮助。平台流量和宣传的支持是首要的;小红书还有一支强大的设计师团队,设计师可以和机构一起,设计一些线下的活动和游戏(881275)方式,让小朋友在社区里获得更好的活动体验;此外,小红书平台有很多专业且接地气的博主,他们不论是人文类、动物学家,还是植物爱好者、建筑学等领域的博主,都能给人们带来很多不同的视角。
