作 者丨王俊 肖潇 实习生 睢佳

编 辑丨王俊,张铭心

图 源丨AI

11月24日，四部门联合开展“清朗·网络平台算法典型问题治理”专项行动，尽管是周末发布信息，但由于上周中钟睒晱炮轰算法作恶、上周五快手因落实青少年模式不到位等导致违法信息扩散被处罚等消息，受到了市场和公众的高度关注。

21世纪经济报道记者注意到，此次专项行动的要求非常细化，提出重点整治同质化推送营造“信息茧房”、违规操纵干预榜单炒作热点、盲目追求利益侵害新就业形态劳动者权益、利用算法实施大数据“杀熟”、算法向上向善服务缺失侵害用户合法权益等重点问题。但不少要求在此前《互联网信息服务算法推荐管理规定》等文件中均有痕迹。业内人士告诉21世纪经济报道记者，往年中央网信办也有算法检查，此次专项行动或意味算法治理的常态化。

算法治理自2021年开始，三年间，相关法律法规不断完善，然而公众对算法的感知与治理要求之间仍存较大差距。

受访的业内人士指出，推荐算法往往是平台最核心、最大利润部门；主要部门背DAU（日活跃用户）指标，算法合规影响用户活跃度和留存率，若无外部影响，内部严抓算法治理往往动力不足。

也就是说，算法合规与平台的商业逻辑存在核心冲突，两者天然构成张力。“算法治理像瓷器店里抓老鼠”，有专家如此形容。

算法治理旋风刮起，或迈向常态化监管

梳理发现，自2021年起，算法治理便被纳入监管范围，治理内容从“推送不良广告行为”、到整治“违法活动引流、宣介违法违规商品、搜索结果推送低俗负面联想词”，以及打破 “算法歧视”“大数据杀熟” 等。

从2022年起《互联网信息服务算法推荐管理规定》《互联网信息服务深度合成管理规定》《生成式人工智能服务管理暂行办法》等政策陆续实施，均涉及算法的详细治理规则。

此次，四部门联合开展“清朗·网络平台算法典型问题治理”专项行动，与此前的专项行动相比，要求更加细化。除却专项行动的要求外，下发的《通知》中还给出了《算法专项治理清单指引》，列明了核验项目、核验要点、核验内容。一位头部平台的合规负责人告诉21世纪经济报道记者，往年中央网信办也会到企业进行算法检查，此次算法治理专项行动或意味算法治理的常态化。

并且，此次专项行动的任务落地到了地方：各地网信部门要发挥统筹协调作用，牵头开展专项行动。加强与属地电信、公安、市场监管等相关部门联动，细化工作分工，压实工作责任。

推荐算法：明令禁止推送高度同质化内容

根据专项行动要求，有几项重点：1.深入整治“信息茧房”、诱导沉迷问题；2、提升榜单透明度打击操纵榜单行为；3、防范盲目追求利益侵害新就业形态劳动者权益；4、严禁利用算法实施大数据“杀熟”；5、增强算法向上向善服务保护网民合法权益；6、落实算法安全主体责任。

具体怎么治理乱象，“算法专项治理清单指引”提出了明确的核验要求。

比如，在“信息茧房”的问题上，专项行动要求：严禁推送高度同质化内容诱导用户沉迷。不得强制要求用户选择兴趣标签，不得将违法和不良信息记入用户标签并据以推送信息，不得超范围收集用户个人信息用于内容推送。

该项要求主要针对推荐算法。推荐算法包括多种类型，比如基于内容的推荐算法，侧重于分析内容本身的特征，从用户过去喜欢的内容中提取关键特征，匹配用户的兴趣偏好。简言之，推荐算法本质是“投其所好”，从而增加平台访问次数、延长停留时间，提升用户黏度。

2022年实施的《互联网信息服务算法推荐管理规定》中，首次将算法防沉迷写入法规，其要求“算法推荐服务提供者不得设置诱导用户沉迷、过度消费等违反法律法规或者违背伦理道德的算法模型”。

此次专项行动中再次明令禁止：严禁推送高度同质化内容诱导用户沉迷。

专项行动还强调：“不得将违法和不良信息记入用户标签并据以推送信息”。实践中，为了留存用户，一些平台会给用户推送低俗色情等信息。

根据专项整治行动，将推进拆标签等合规动作。

同济大学法学院助理教授、上海人工智能社会治理协同创新中心研究员朱悦指出，广义的标签可以是自然语言表述，由用户自行提供得到的，也可以是算法通过学习得到的。“后一类常常也叫做表征或嵌入。”

如果是前者，拆除难度一般不大，业务上多少会有损失，损失的大小和场景有关。不过，如果本身数据治理做得不好的话，标签合规的补课就会有一定的工作量。

专项行动要求，平台应具备针对“信息茧房”“同质化推荐”等网民重点关注问题的防范举措，通过内容去重、打散干预等技术策略，提升推送内容多样性丰富性，及时总结相关成效，配合有关部门的监督检查工作。

决策算法：以优惠政策复杂为由解释“杀熟”，空间越来越窄

决策算法也是这次专项行动的重点。专项行动要求：严防一味压缩配送时间导致配送超时率、交通违章率、事故发生率上升等问题。详细公示时间预估、费用计算、路线规划等算法规则。搭建畅通的申诉渠道，及时受理劳动者因交通管制、交通事故、恶劣天气等不可控因素导致的配送超时等申诉。

大数据“杀熟”是近年来消费者关注的重点。指的是企业通过收集和分析用户的历史购买记录、浏览习惯、个人信息等数据，建立用户画像，然后根据这些信息对新老用户采取不同定价的策略。简言之，在平台内存在“杀熟”机制的情况下，老用户因黏性较高，可能会被收取更高的价格，而新用户则可能享受到更多的优惠。

在黑猫投诉平台，检索“大数据杀熟”关键词，多达6000多条投诉，投诉理由多为在价格短时间浮动大、不同人不同价、不同手机不同价、不同平台价格差异大、买完就大幅降价等。矛头直指主流电商、在线旅行、外卖、网约车等头部主流商业平台。

在实践中，“大数据杀熟”的界定并非易事。21世纪经济报道记者曾用不同移动设备对携程、飞猪、去哪儿等测试，发现不同会员等级、不同平台、不同的优惠政策都可能导致价格不统一，相关行为的模糊性、隐蔽性和复杂性让“杀熟”的认定困难重重。

值得注意的是，此次专项行动中明确：提升优惠促销透明度，清晰说明优惠券的领取条件、发放数量和使用规则等内容。客观如实说明优惠券领取失败原因，严禁以“来晚了”“擦肩而过”等提示词掩盖真实原因。

并且，《算法专项治理清单指引》中还要求：平台应说明优惠促销规则，如适用范围、参与条件、特定限制等。对于使用优惠券的场景，平台应说明优惠券发放范围、用户身份限制、发放数量、使用条件等信息。

这也意味着，平台以优惠政策为由来解释“杀熟”，空间越来越窄了。

算法治理好似瓷器店里抓老鼠？

从前文不难看出，此次《通知》和《算法专项治理清单指引》里的要求并非新规，许多内容已在过去的相关政策文件、专项行动中多次强调，但问题在于，实施效果似乎不尽如人意。

拿用户标签来说，《互联网信息服务算法推荐管理规定》要求，“平台应向用户提供用于个性化推荐服务的个人兴趣标签管理功能”。本次《算法专项治理清单指引》也重提了这一点。

可实际上，目前几乎没有主流APP能够提供标签管理工具，大部分平台的操作仅仅是让用户对单条内容点击“不感兴趣”。

对外经济贸易大学法学院教授张欣长期跟踪算法治理，她了解到有两个落地难题：

一是目前许多平台已经不再使用个性化标签，自然也没法让用户挑选标签，存在算法治理规则和现实的“时差”；

另一个更主要的问题可能是，个性化推荐一直是用户对算法安全、可信度感知最强的领域，但平台到底怎么执行、监管又如何执法监督，还存在不足。

从本质上说，算法治理和平台的商业逻辑存在核心冲突。一位前社交平台法务向21世纪经济报道记者透露，推荐算法是最核心的部门，“即使不考虑技术的复杂性，要在利润部门推进合规约束都很不容易。”

另一位头部短视频平台的前员工也有类似感受，“主要部门都是要背DAU（日活跃用户）目标的，做治理肯定会影响用户活跃和留存，风控部门的话语权又很小。没有外部影响的话，内部很难严抓合规，尺度很松散。”

只有那些稳坐行业头部宝座的平台，才有底气严抓内容生态合规。一位学者因此将算法治理形容为“在瓷器店里抓老鼠”，投鼠忌器是最大顾虑。

不过在张欣看来，算法公开、提高算法透明度是可以落地的抓手，并且已经过全球经验检验，并非完全“瞎抓耗子”。“其实这一次专项行动，也是对我们之前小、快、灵立法的一次检验，接下来最重要的是将一些议题落实。”

21世纪经济报道

财联社11月24日电，国家市场监督管理总局办公厅、公安部办公厅等四部门决定自即日起至2025年2月14日开展“清朗·网络平台算法典型问题治理”专项行动。主要任务包括：

1.深入整治“信息茧房”、诱导沉迷问题。构建“信息茧房”防范机制，提升推送内容多样性丰富性。严禁推送高度同质化内容诱导用户沉迷。不得强制要求用户选择兴趣标签，不得将违法和不良信息记入用户标签并据以推送信息，不得超范围收集用户个人信息用于内容推送。规范设置“不感兴趣”等负反馈功能。

2.提升榜单透明度打击操纵榜单行为。全面公示热搜榜单算法原理，提升榜单透明度和可解释性。完善榜单日志留存，提高榜单算法原理可验证性。健全水军刷榜、水军账号等违规行为、账号检测识别技术手段，严管不法分子恶意利用榜单排序规则操纵榜单、炒作热点行为。

3.防范盲目追求利益侵害新就业形态劳动者权益。严防一味压缩配送时间导致配送超时率、交通违章率、事故发生率上升等问题。详细公示时间预估、费用计算、路线规划等算法规则。搭建畅通的申诉渠道，及时受理劳动者因交通管制、交通事故、恶劣天气等不可控因素导致的配送超时等申诉。

4.严禁利用算法实施大数据“杀熟”。严禁利用用户年龄、职业、消费水平等特征，对相同商品实施差异化定价行为。提升优惠促销透明度，清晰说明优惠券的领取条件、发放数量和使用规则等内容。客观如实说明优惠券领取失败原因，严禁以“来晚了”“擦肩而过”等提示词掩盖真实原因。

5.增强算法向上向善服务保护网民合法权益。持续优化完善面向未成年人、老年人的算法推荐服务，便利未成年人、老年人获取有益身心健康的信息。建立健全算法在赋能优质内容传播、违法行为识别发现等方面的社会治理应用。持续提升生成合成信息检测识别能力，及时发现处理违法违规生成合成信息。

6.落实算法安全主体责任。健全算法机制机理审核、数据安全的管理制度和技术措施。确保算法的训练数据具有合法来源，及时检测修复代码安全漏洞和算法逻辑缺陷，定期对算法模型的可用性、可控性、可解释性以及数据处理、模型训练、部署运行等环节开展安全评估。

财联社

近日，中央网信办等四部门联合发布《关于开展“清朗·网络平台算法典型问题治理”专项行动的通知》，进一步深化互联网信息服务算法综合治理。专项行动自即日起至2025年2月14日开展，要点梳理如下：

主要任务

1.深入整治“信息茧房”、诱导沉迷问题。

构建“信息茧房”防范机制，提升推送内容多样性丰富性。

严禁推送高度同质化内容诱导用户沉迷。

不得强制要求用户选择兴趣标签，不得将违法和不良信息记入用户标签并据以推送信息，不得超范围收集用户个人信息用于内容推送。

规范设置“不感兴趣”等负反馈功能。

2.提升榜单透明度打击操纵榜单行为。

全面公示热搜榜单算法原理，提升榜单透明度和可解释性。

完善榜单日志留存，提高榜单算法原理可验证性。

健全水军刷榜、水军账号等违规行为、账号检测识别技术手段，严管不法分子恶意利用榜单排序规则操纵榜单、炒作热点行为。

3.防范盲目追求利益侵害新就业形态劳动者权益。

严防一味压缩配送时间导致配送超时率、交通违章率、事故发生率上升等问题。

详细公示时间预估、费用计算、路线规划等算法规则。

搭建畅通的申诉渠道，及时受理劳动者因交通管制、交通事故、恶劣天气等不可控因素导致的配送超时等申诉。

4.严禁利用算法实施大数据“杀熟”。

严禁利用用户年龄、职业、消费水平等特征，对相同商品实施差异化定价行为。

提升优惠促销透明度，清晰说明优惠券的领取条件、发放数量和使用规则等内容。

客观如实说明优惠券领取失败原因，严禁以“来晚了”“擦肩而过”等提示词掩盖真实原因。

5.增强算法向上向善服务保护网民合法权益。

持续优化完善面向未成年人、老年人的算法推荐服务，便利未成年人、老年人获取有益身心健康的信息。

建立健全算法在赋能优质内容传播、违法行为识别发现等方面的社会治理应用。

持续提升生成合成信息检测识别能力，及时发现处理违法违规生成合成信息。

6.落实算法安全主体责任。

健全算法机制机理审核、数据安全的管理制度和技术措施。

确保算法的训练数据具有合法来源。

工作目标

1.算法导向正确。

健全完善正能量优质内容池，优化算法推荐服务机制，积极传播正能量。

不得设置诱导用户沉迷、过度消费等的算法模型。

不得利用算法干预信息呈现，实施影响网络舆论或者规避监督管理行为。

2.算法公平公正。

不得利用算法实施垄断和不正当竞争行为。

保护劳动者合法权益，完善平台订单分配、报酬构成及支付、工作时间、奖惩等相关算法。

保护消费者公平交易的权利，不得利用算法在交易价格等条件上实施不合理的差别待遇。

3.算法公开透明。

优化检索、排序、推送等规则的透明度和可解释性，预防和减少争议纠纷。

以适当方式公示算法推荐服务的基本原理、目的意图、主要运行机制等，确保简单、清晰、可理解。

4.算法自主可控。

关闭算法推荐服务的选项操作便捷、功能有效。

向用户提供选择或者删除用于算法推荐服务的针对其个人特征的用户标签的功能，便利用户自主选择兴趣领域。

5.算法责任落实。

建立健全算法安全管理制度和技术措施。

常态化开展算法安全自评估。

央视新闻