大模型助力谣言治理 “发现即管控”,抖音谣言曝光量下降67%

摘要

抖音:谣言治理是2025年最重要的工作之一。

 
在信息以前所未有的速度和规模流动的时代,谣言的治理已成为所有内容平台必须面对的“持久战”。
2025年9月16日,抖音举办了一场不实信息治理开放日活动,展示了其最新的“方法论”。抖音方面表示,谣言治理是其2025年最重要的工作之一,而在大模型技术的助力下,平台近一个季度的谣言曝光量已下降67%。
这背后是一整套从被动响应到主动干预、从平台防御到全民共治的逻辑重塑。
 

一、 “发现即管控”

 
长期以来,平台治理谣言的链路更像是一种“消防员”模式:依赖媒体报道、机构发声或用户举报来发现“火情”,再由人工将确认的谣言点纳入样本库,进行回查、拦截和下架。这个过程的核心痛点在于“滞后性”,抖音不实信息治理负责人李博在活动中坦言,单例谣言的发现和处置时效往往需要以“天”为单位。
 
在谣言传播速度呈指数级增长的今天,这种滞后性是致命的。《科学》杂志曾有研究指出,社交媒体上谣言的传播速度是真实信息的6倍。加之AI技术降低了内容生产门槛,使得谣言的生产更轻易、形式更多样、隐蔽性更强,传统的人工治理模式已显得力不从心。
 
抖音给出的解法,是将AI从辅助工具提升为核心引擎,实现从“化被动为主动”的根本转变。其核心逻辑,被概括为四个字——“发现即管控”。

 

 

这一逻辑的实现,依托于一套专为谣言治理打造的大模型识别系统。其工作如下:

  • 内容召回与信息提取:当平台上的资讯内容达到一定的传播热度阈值后,AI大模型会自动介入。它会提取视频的核心信息,包括标题、通过OCR技术转写的画面文字,以及通过ASR技术转写的音频内容。
  • 联网检索与风险研判:模型将提取到的信息与公开的权威信源进行比对检索,这些信源包括权威媒体报道、政务公开平台以及平台自身积累的历史谣言库样本。通过分析信息中的存疑之处,模型会对内容进行谣言风险研判。
  • 结论输出与自动处置:最终,模型会输出该视频的风险等级和对应的具体谣言点,并根据预设策略进行处置,例如直接下架视频,或将确认为谣言的内容点入库,用于后续的拦截和回扫。
 
通过这套流程,单例谣言的处置时效从过去的以“天”为单位,被压缩至以“小时”为单位。
 
更进一步,为提升识别的精准度,抖音已将该系统升级为“谣言治理Agent”。与简单的联网大模型不同,Agent在研判前增设了多个大模型的预处理节点,通过多模块规划来协同执行谣言核查任务,从而在内容识别与分析环节实现了更高的精准度。据李博介绍,目前大模型的识别准确率已达到85%,并且仍在持续提升中。
 
在被问及该技术与字节跳动豆包大模型的关系时,抖音方面解释,豆包是其所有技术的基础模型,但平台会针对谣言治理这一具体的业务场景,对基础模型进行后续训练和精调,使其“长成需要的形态”。
 
这背后,是抖音试图从根本上扭转治理困境的决心。正如内部人员所说,过去只有最热的事件,甚至在很多人被误导后,平台才能介入;而现在,AI让平台能够在谣言的“萌芽期”进行更广泛、更前置的干预。
 

二、 “AI抖音求真”:将治理能力产品化,与用户共建“认知防线”

 
技术终究是后台的“黑箱”,要真正影响用户,必须将其转化为可感知、可交互的前台产品。抖音在强化技术防御的同时,推出了“AI抖音求真”品牌,试图激发和提升公众的辨别能力,构建一个全民参与的“认知防线”。
 
这一品牌的核心载体是“求真卡”。它被巧妙地嵌入到用户的两大核心场景中:
  • 浏览场景(被动触发):当用户浏览一些本身内容可能真实,但因表达形式、信息不全等原因容易产生误解的视频时,视频下方会挂载一个“AI抖音求真”的跳转链接。用户点击后即可进入“求真卡”页面,了解事件的完整脉络和背景信息。值得注意的是,该功能主要针对的是“疑似”或“易产生误解”的内容;如果是明确的谣言,内容本身早已被治理团队处理。
  • 搜索场景(主动触发):当用户主动搜索某个谣言或争议事件的关键词时,搜索结果页会直接以“求真卡”的形式,置顶展示该事件的溯源、事实真相、权威报道以及当事人发声等澄清信息。如果信息被明确判定为谣言或存疑,会被显著标注。
 
“求真卡”的内容生成,是“AI大模型+专项运营”结合的产物。它依托于平台训练的“谣言治理大模型”和“资讯大模型”,同时由辟谣运营团队进行协同。这种人机结合的模式,旨在提升处理争议信息的效率和覆盖面。据估算,“AI抖音求真”功能的单日曝光量可达近亿次。
 
除了“求真卡”这一核心产品,抖音还构建了一个立体的辟谣内容生态:
  • 官方账号与热点运营:设立“抖音辟谣”官方账号,主动发布辟谣内容。同时,在抖音热榜上设有固定的辟谣专属位,对高热度的辟谣事件进行突出展示,提升曝光。以今年暑期的“人贩子”系列谣言为例,运营团队主动与四川、山西、河北等9个地区的公安机关联动核实,并在查证为虚假后,通过官方账号进行集中辟谣。
  • 社会共治与生态联动:抖音发起了“谣零零计划”,联动专家、达人、权威机构共创辟谣视频,并长期扶持优质的辟谣科普创作者。此外,平台还与全国百家媒体建立了“抖音媒体辟谣团”,在谣言线索提报、采访核实、联合发布等方面进行深度协作。
 
以“广西贵港救护车抢人”事件为例,我们可以看到这套组合拳的完整运作流程:首先,AI大模型分析检索,初步判断其为疑似谣言;接着,平台通过当地政府机构查证,核实信息不属实;随即,平台对相关谣言内容展开治理,并利用“求真卡”向搜索用户澄清事实;同时,“抖音辟谣”官方账号发布辟谣视频,并向浏览过谣言的用户精准推送;最终,相关辟谣内容登上抖音热榜,并配有专属的“辟谣”标识,进一步扩大了传播范围。整个流程相较于以往,时间大幅缩短,实现了高效响应。
 

三、在真实世界的复杂性中寻求平衡

 
尽管技术和产品层面取得了显著进展,但抖音内部清醒地认识到,谣言治理“任重道远”。在交流中,他们也坦诚地探讨了治理过程中面临的诸多挑战和灰色地带,这或许更能反映这场博弈的真实面貌。
 
以近期热议的“知名男演员坠亡”事件为例,在官方调查结果尚未公布前,网络上充斥着真假难辨的消息。这类动态发展的热点事件,是平台治理的最大难点之一。抖音的策略并非一刀切地禁止讨论,而是在平衡中拿捏尺度。
 
首先,对于这类信息,平台不会直接将其定性为“谣言”,而是作为“存疑信息”处理,进行一定程度的流量限制。其次,平台会主动介入,对其中明显荒谬的、阴谋论式的内容进行治理,例如将暴雨天气与事件关联的“朦胧雨”等不当臆测。同时,通过热点专题页下的“AI求真”组件,汇总呈现事件中的悬疑点和已澄清的信息,帮助用户了解全貌。这体现了一种务实的治理思路:在真相尚不明确时,控制传播热度,过滤极端信息,但保留公众讨论的空间。
 
当“谣言”的定义从可以被事实证伪的资讯,延伸到历史、民族、意识形态等专业或价值领域时,治理的难度呈几何级增长。有学者提到如“蒙古族起源于匈奴”这类错误的史观,它边界模糊,且镶嵌在大量个人内容中。
 
法律博主在现场指出,在热点案件中,将多个不相干案件信息拼接在一起,或在评论区大量刷屏错误观点并形成二次传播,是常见的谣言形态。抖音表示,已关注到评论区的治理问题,会将谣言库的能力应用到评论回扫中,力求打断这种“作案链”。
 
在任何商业平台,关乎流量和收入的决策都至关重要。辟谣这类看似“有损流量”的工作,其内部的决策机制也备受关注。当治理决策与流量、收入目标冲突时如何拍板?
 
抖音的回答是,对于不好的内容所产生的播放量(VV),内部称之为“bad VV”。他们认为,将这部分流量打掉,实际上是将其释放给了更多优质的内容和创作者,这在生态层面是好事,对抖音的长期商业价值也是有益的。
 
从引入AI Agent实现技术跃迁,到推出“AI抖音求真”进行产品落地,再到坦然面对治理中的种种复杂困境,抖音正在这场与不实信息的赛跑中,展现出更为系统和纵深的思考。
 
这场关乎真相的长跑,永远在路上。而一个更强大、更透明、更具协同性的治理体系,或许正是穿过谣言迷雾,抵达清朗网络生态的更好路径。
 

最新文章

极客公园

用极客视角,追踪你不可错过的科技圈.

极客之选

新鲜、有趣的硬件产品,第一时间为你呈现。

张鹏科技商业观察

聊科技,谈商业。