随着移动互联网的普及与社交应用深度融入日常生活, 社交平台已成为公众表达观点、建立连接的重要渠道。
随着移动互联网的普及与社交应用深度融入日常生活, 社交平台已成为公众表达观点、建立连接的重要渠道。然而, 随之而来的虚假信息传播、网络欺诈、网络暴力等生态治理挑战也日益复杂, 不仅损害用户权益, 更可能引发社会信任危机。在这一背景下, 作为社交平台代表之一的 Soul App 主动将生态安全治理纳入企业战略发展的重点, 发布《2025 年第三季度生态安全报告》(以下简称「报告」)。
报告详尽披露了 Q3 季度平台在生态安全领域所取得的进展, 全面展示了 Soul 围绕「技术+制度+教育」三维治理体系的创新实践与显著成效。这标志着 Soul 在用户信息保护、反欺诈、未成年人守护、网络暴力治理及社区共治等关键领域的持续投入和能力升级。
AI 风控全面升级 筑牢社交安全屏障
在 Q3 季度,Soul 持续深化 AI 前沿技术的应用, 构建全方位、高智能的安全防护体系, 通过不断完善技术手段, 平台在前端拦截和中端处置能力上实现提升。
反欺诈能力迭代突破, 全场景覆盖用户安全
伴随年终促销季的临近, 网络欺诈活动呈现高发态势, 手法也愈发隐蔽。Soul App 针对性地迭代升级了多项 AI 反欺诈模型, 重点发力于提高识别准确率和降低误伤率, 确保用户体验的顺畅与安全——
对基于 AI 大模型的图片反欺诈模型进行了深度优化, 取得了显著成果。数据显示, 误伤量级大幅下降约 80%, 而识别覆盖率则提升至 90% 以上, 实现了对主流图片生产场景的全面、精准防护;
平台完成人设大模型优化升级, 高风险人设识别覆盖率由不足 50% 提升至 70% 以上, 有效增强了对潜在欺诈人设的提前预警和识别能力, 将风险阻断在用户接触初期;
Soul 持续保持与监管部门及公安机关的紧密合作, 积极参与到打击违法有害信息的行动中。Q3 季度, 平台向全国推送各类违法有害线索 100 余个, 调证协查 80 余次, 并参与其他警企合作工作 3 次, 以实际行动帮助构建起坚实的安全防线。
违规与低质内容治理, 打造清朗社区画风
为切实保障用户在广场和群聊中的交流体验,Soul 运用包括图片/文本反作弊大模型、外链审核大模型在内的一系列技术手段, 对违规行为和低质内容进行了有效打击——
Q3 季度违规内容机审直接拦截量 439 万, 同时对相关跟帖、评论处理量 1578 万;处置违规账号 30.6 万个, 并对同设备下存在多个违规账号进行拉黑备案;
针对群聊生态,Q3 季度日均中断违规语音超 5600 条, 日均拦截违规文字消息 2.6 万条, 确保群聊空间的文明有序。高强度的治理力度, 有效遏制了违规内容的滋生。
私聊社交生态优化, 增强用户自主安全防护
私聊场景的安全性是用户社交体验的关键。在 Q3 季度,Soul 持续上线迭代超过 20 项私聊策略, 并强化了用户的自主防护能力, 其中「消息自见策略」保护超 4.3 万用户免扰信息侵扰;针对反复违规的用户, 平台日均禁止私聊功能 8 万例。此外, 平台还针对疑似被骚扰的用户下发「守护弹窗」, 主动提醒用户采取必要的保护措施。
聚焦网暴治理与青少年保护, 构建友善环境
Soul 深刻认识到网络暴力对青年用户心理健康的负面影响, 倡导「社交友善」的平台理念;同时,Soul 积极响应国家「清朗」系列专项行动号召, 从技术监测、快速处置、教育引导三方面入手, 全力维护网络空间的文明与和谐。
网暴治理见效, 推动友善社交环境
平台通过智能监测和快速处置流程, 有效降低了用户遭受网暴和恶意攻击的概率。在 Q3 季度,Soul 致力于将善意社交「落地生根」, 日均至少保护用户避免遭受网暴与频繁骚扰 3127 人, 有效维护用户权益。同时, 日均处理私聊不文明行为 2100 起, 日均提醒引导私聊文明发言 21.5 万次, 形成了主动干预和教育为主的治理闭环。
青少年安全防护再强化, 守卫未成年人上网安全
Soul 长期以来坚持明确的未成年人保护原则:禁止未成年人注册账号, 并对极少数已注册的未成年用户采取自动切换至青少年模式的严格措施。
在暑期高峰期,Soul 完成了人设大模型的迭代升级, 在年龄、身份人设上的覆盖量增加了 200%。基于更精确的 AI 识别结果, 平台同步优化了其他未成年人识别策略, 通过更精准的人设画像和判别逻辑, 系统能更全面、更准确地识别疑似未成年用户, 最大程度地将未成年人用户纳入保护范围。
社区共建共治, 共享安全生态
Soul 深知社区生态的安全健康离不开每一位用户的积极参与。Q3 季度, 平台持续推进「社区共建共治」体系, 并加大用户教育力度, 提升全员数字素养——
报告显示, 内容推荐官、风纪委员等在任社区共建用户数量已超过 7.8 万人, 其中, 日均站内内容推荐官在任用户 5.1 万人, 日均参与投票和投票人数均稳定增长。社区成员日均贡献 2.2 万+次投票, 通过这一高度参与的方式, 最终日均产生 2900+个优质帖子, 形成了「用户参与治理, 治理反哺优质内容」的良性循环。
在「教育」维度,Soul App 持续投入资源, 通过多渠道、多形式的宣传, 增强用户对平台规则和网络文明规范的认知。官方账号「风纪球长」对安全生态宣传内容发布了 59 篇帖子, 内容涵盖反低俗、反不实信息、反恶意引战、恶意盗用他人形象等违规行为的警示, 以及对安全标准及社交礼仪规范的宣导, 总计触达 51 万用户。这一系列教育举措显著提升了用户自我保护能力和文明互动素养。
技术向善, 共赴友好社交新生态
《2025Q3 生态安全报告》不仅是一份阶段性的工作总结, 更是 Soul App 对全体用户乃至整个社会的安全承诺书。在过去一个季度,Soul 依靠其强大的 AI 技术能力、严格的制度执行力以及日益壮大的社区共治力量, 成功构筑了一道智能化的安全防线。
在未来,Soul 将继续秉承「让天下没有孤独的人」的愿景, 持续投入资源升级 AI 治理能力, 并深化社区共治体系。Soul 期待与每一位用户携手, 共同探索和建设一个更加清朗、友善、健康的社交新生态, 让每一份真诚的连接都能在安全可靠的空间中落地生根。
来源：互联网
