算法是如何把"耸人听闻"的内容推送到你面前的？

TL;DR

• 推荐算法并非“中立工具”，其设计目标（如停留时长、点击率）客观上偏好高唤醒度内容，包括愤怒、惊奇、恐惧等情绪信号；
• 2025年1月起，国家网信办明确要求主流平台对“情绪诱导类权重参数”进行备案与公示，首批覆盖新闻、短视频、社交三类场景；
• 澎湃新闻报道指出，部分平台已将“标题感叹号密度”“评论区负面词频”纳入实时反馈信号，但该做法未在公开算法说明中披露；
• 当前治理聚焦“可解释性”与“可审计性”，而非禁止特定模型结构；算法优化正从“最大化互动”转向“可持续参与”。

要点

• 国家网信办2025年1月发布的实施细则首次将“情绪唤醒强度”列为算法风险评估的法定指标之一（来源1）；
• 澎湃新闻援引行业知情人士称，至少3家头部平台在2024年下半年测试了“情绪衰减系数”，即对连续推送同类高唤醒内容实施自动降权，但该机制尚未全量上线（来源2）；
• 中国新闻网报道显示，“清朗·规范算法推荐服务”专项行动要求平台于2025年Q2前完成算法基本原理、训练数据来源、主要干预规则的简明公示（来源3）；
• 现有监管未禁止“点击率预测模型”，但明确禁止将“虚假标题诱导点击”设为独立优化目标（来源1第十二条）；
• 不同平台对“耸人听闻”的定义存在操作差异：部分将含“震惊”“突发”“速看”等词的标题自动标记为高风险，另一些则依赖人工标注样本集训练分类器（来源2、3交叉印证）。

事实与来源

• 《生成式人工智能服务管理暂行办法》实施细则（2025年1月）规定：“提供内容推荐服务的主体，应建立对用户情绪反应的动态监测机制，并向属地网信部门报备关键情绪识别参数阈值。”（来源1，第三章第十条）；
• 澎湃新闻2025年1月26日报道指出：“某短视频平台内部测试数据显示，当单日推送含‘震惊体’标题内容超过3条时，用户7日留存率下降11.2%，该发现成为其启动情绪衰减实验的直接动因。”（来源2）；
• 中国新闻网同日通报：“专项行动将重点检查算法是否设置‘负面情绪加权项’，以及是否存在对争议性话题的非均衡曝光。”（来源3）；
• 三则来源均未提及具体平台名称或算法代码细节，所有技术描述均基于已公示政策文本或匿名信源转述，符合转载规范。

时间线

• 2024-09-15：国家网信办就《算法推荐服务管理规定（修订草案）》公开征求意见，首次引入“情绪影响评估”条款（来源1背景说明）；
• 2025-01-26：《生成式人工智能服务管理暂行办法》实施细则正式发布，同步启动“清朗·规范算法推荐服务”专项行动（来源1、3）；
• 2025-01-26：澎湃新闻发布调查报道，披露多家平台情绪识别模块的技术路径与内测进展（来源2）；
• 2025-02-10（待确认）：网信办官网公示首批完成算法备案的12家平台名单——该信息尚未在三大来源中出现，故不列入确证时间线；需等待官方更新（原因：截至2026-01-26，cac.gov.cn未发布该名单，仅提及“将于一季度内分批公示”）。

增量整理

对比：传统CTR模型 vs 新规约束下的情绪感知模型

定义：“耸人听闻”在监管语境中的操作化界定

根据来源1附件《算法风险分类指引》，其指同时满足以下三项的文本内容：
① 标题含至少两个高强度情绪动词/形容词（如“惊爆”“血案”“疯传”）；
② 正文首段未提供可验证信源或权威出处；
③ 同一事件在平台内存在≥3种矛盾表述且无事实核查标识。
注：该定义仅适用于新闻资讯类内容，不适用于文艺评论、讽刺创作等明确标注体裁。

风险与边界

• 技术风险：情绪识别模型易受方言、反讽、亚文化黑话干扰，当前准确率约76%（来源2提及某平台内部测试结果），误判可能导致正常严肃报道被限流；
• 治理边界：新规未要求平台删除已有内容，而是规范“后续分发逻辑”；对历史存量“耸人听闻”内容，仍适用《网络信息内容生态治理规定》分级处置流程（来源1第五条）；
• 待确认/推测：各平台是否统一采用NLP情绪词典尚无公开证据。因来源未披露训练数据细节，无法确认其是否使用中文情感词典（HowNet）、还是自建领域词表——该问题需等待后续备案材料披露（原因：三则来源均未说明底层词库来源）。

站内延伸阅读

• /ai/algorithm-transparency-guide
• /policy/cac-2025-algorithm-rules-summary
• /tech/emotion-detection-in-nlp
• /case-study/we-media-content-moderation

事实与来源

• 国家互联网信息办公室关于《生成式人工智能服务管理暂行办法》实施细则（2025年1月修订版）
• “情绪优先”推荐逻辑被点名：多家平台启动算法透明度公示试点｜澎湃新闻
• 中央网信办部署2025年“清朗·规范算法推荐服务”专项行动