百度与天津战略合作正在从「筑巢引凤」迈向「开花结果」的全新阶段。
AI 生成的违规内容，现在也可以用 AI 来高效治理了。
9 月 25 日消息，在近日举行的第四届琶洲算法大赛生态赋能大会上，百度智能云正式发布全新的 AI 审核产品——百度智能云司南，能够覆盖从文本、图像到音视频、直播流的全模态内容，帮助企业在 AIGC 信息爆发增长的时代高效拦截违规内容。
据测算，相较于传统审核方式，百度智能云司南审核效率高 10 倍，而企业仅用 1/4 的成本就可以雇用这样的「AI 审核员」，实现内容审核的「多快好省」。
百度副总裁阮瑜受邀在本次大会上发表了《大模型应用助推企业生产力跃迁》的主题演讲，演讲中提到随着大模型应用的创新加速推进，大模型生成内容的数据量也迎来爆发式增长。与此同时，大量违规内容的出现，也将给企业经营带来巨大风险。
过往，企业数据治理多采用传统「小模型机审+人审」的内容审核模式。但面对 AIGC 时代，层出不穷且不断变异的改编恶搞、图文混合隐喻、上下文串联违规等复杂隐蔽违规内容，传统模式难以灵活应对，漏判率和误判率较高，整体审核效率低，无法满足审核要求。
在此背景下，百度智能云对审核产品做了全面升级，发布全新的 AI 审核产品百度智能云司南。
百度智能云司南产品负责人韦贤秋介绍，「司南」的命名源于其为中国古代指南针，象征着能为 AIGC 内容指明健康方向。当前内容生态中，误导性信息、不良内容等隐患频发，百度希望用大模型技术铸造安全屏障，守护清朗的内容环境。
在效果上，相较市面方案，「司南」颠覆性显著：传统小模型准确率 85%-90% 已是瓶颈，相较于传统审核方式，「司南」平均准确率可以达到 95% 以上，能识别人眼也难辨的潜在违规内容。
同时，面对跨地域语言语境适配需求，「司南」依托大模型多语种能力，针对英语、阿拉伯语、日语等十多种主流语言，结合各语言表达方式、习惯及当地价值观与习俗进行专项训练，能为有出海诉求的企业提供更接地气、更适用的服务。
针对内容审核在「误杀」和「漏杀」之间权衡问题，百度智能云司南还可以适应企业自己的监管要求，达到企业对内容风控的目标，产品团队也针对不同的管控尺度做了不同的标签，开放给企业自行选择标签和松紧度，来确保自己业务经营范畴内的合法合规，帮助企业更好更健康地运作。
百度智能云司南已经深入到社交、游戏、媒体等多个行业的上万家海内外企业，为企业客户们提供强大的内容风控能力。未来，「司南」将持续深化大模型技术与多场景适配，与更多企业客户携手维护清朗的内容生态。
据了解，本届大赛以「算法领航 琶洲奋进」为主题，由广州市人民政府、中国人工智能学会主办，大赛汇聚全球 30 余个国家的八千余支团队同台竞技，领跑中国算法赛事规模，向世界亮出了中国人工智能的「硬实力」！
来源：互联网
