9 月 15 日, 网易智企主办的「智启 AI • AIGC 产业赋能大会」在中国乌镇盛大开幕, 多位在 AI 领域具备深刻理解的大咖围绕 AI 赋能行业的趋势、AI 催生的商业机遇、AI 驱动企业转型的策略等话题进行了探讨。
9 月 15 日, 网易智企主办的「智启 AI • AIGC 产业赋能大会」在中国乌镇盛大开幕, 多位在 AI 领域具备深刻理解的大咖围绕 AI 赋能行业的趋势、AI 催生的商业机遇、AI 驱动企业转型的策略等话题进行了探讨。网易智企分享了 AIGC 在组织效能提升的实践经验, 以及智企各业务线 AI 落地的最新进展与成果, 并发布了聚焦于客服领域的行业大模型「商河」。
大会同期, 作为网易智企旗下的新一代数字内容风控领军者, 网易易盾发布《生成式人工智能 (AIGC) 内容安全合规指引》。该指引旨在阐述 AIGC 趋势下, 开展数字化业务的企业如何建立内容安全合规体系, 以确保 AIGC 相关业务健康长效地发展。
01.AIGC, 数字内容风控的「矛」与「盾」
在爱分析联合网易易盾发布的数字内容风控行业首本白皮书——《2023 数字内容风控行业白皮书》中提到, 自 2022 年开始, 从引爆 AI 作画领域的 DALL-E 2、Stable Diffusion 等 AI 模型, 到以 ChatGPT 为代表的接近人类水平的对话机器人,AIGC 技术逐渐走入人们的视野和日常生活, 也逐渐成为内容生产的新引擎, 其强大的内容生产能力更是给人们带来了极大的震撼。
一方面,AIGC 提升了内容生产效率, 成为数字内容生产的「利器」, 另一方面也要看到,AIGC 的内容生产方式给黑灰产也提供了更加便利的工具, 提升了数字内容风控的难度, 包括虚假信息问题、恶意内容问题、网络欺诈问题等。
在当前的 AIGC 环境下, 虚假信息、恶意内容以及网络欺诈等问题已成为待解决的难题。因此,AIGC 平台厂商需要建立完整的闭环风控体系, 以实现全面的防范和处置。该体系应从事前防控开始, 通过数据标注、数据治理等方法手段, 将风险防控前置化;接着, 在事中阶段, 应精准审核各种内容, 利用先进的人工智能算法进行快速筛选和判定是否存在违规行为, 最后, 在事后处置优化阶段, 应采取有效的措施对违规行为进行处理, 并通过持续的监控和反馈机制, 不断完善和优化风控体系, 确保 AIGC 应用的安全稳定运营。
易盾本次发布《生成式人工智能 (AIGC) 内容安全合规指引》, 即意在确保 AIGC 这一人类历史上的突破性科技成果,「矛」为人类所用,「盾」护自身安全。
02. 在效率之前的命题:安全合规
生成式人工智能 (AIGC) 的安全与合规, 并不是某一家企业或某一个平台需要面对的命题, 而是一个社会在面对一项时代进步时所需要共同面对的。
国家网信办等七部门发布了《生成式人工智能服务管理暂行办法》(以下称「办法」), 对生成式人工智能进行专项监管, 于 2023 年 8 月 15 日正式施行。这也是我国首个针对生成式人工智能产业的规范性政策。
根据中国日报网解读, 在落实规范细则同时,《办法》也进一步鼓励生成式人工智能技术在各行业、各领域的创新应用, 支持各类组织在生成式人工智能技术创新、数据资源建设、转化应用、风险防范等方面开展协作, 推动生成式人工智能基础设施和公共训练数据资源平台建设。
此外,《办法》在优化监管细则, 支持企业级生成式人工智能技术进一步发展同时, 也鼓励生成式人工智能在不同行业、领域的应用, 构建应用生态体系, 加速生成式人工智能应用生态发展。
《办法》实施的不久之后, 百度、字节跳动、商汤、中科院旗下紫东太初、百川智能、智谱华章等 8 家企业/机构的大模型位列首批通过《生成式人工智能服务管理暂行办法》备案的名单, 可正式上线面向公众提供服务。
在看到监管的同时, 更应该看到安全合规带来的长期利好。纵观历史各项对人类发展有着重大意义的科技成果, 每项成果在大规模造福人类时都需要在「安全合规」的前提下——这不是一种负担, 而是一种长期主义下的重要保障。
03. 得《指引》者得安全, 得安全者得长效
在此次发布的《生成式人工智能 (AIGC) 内容安全合规指引》中, 易盾团队首先阐述了生成式人工智能内容安全的重要性, 后以人工智能行业合规发展为出发点, 重点探讨了生成式人工智能全生命周期的安全风险与合规, 最后进行总结并提出几点建议, 帮助生成式人工智能服务提供商在合乎规范的前提下为用户提供服务, 促进生成式人工智能健康蓬勃发展。
《指引》通过 AIGC 生命周期风险、风险应对、内容安全的检测标准、内容安全检测工具及实例分析、AIGC 企业合规要点 5 大章节近 2 万字给出了详细且完善的 AIGC 内容安全合规方法论与案例参考。同时易盾研究团队向社会与行业免费公开此《指引》, 这也是网易易盾作为数字内容风控行业领军者的行业担当、社会担当。
在给出具体合规要点与方法的同时,《指引》还在最后向 AIGC 服务提供商真诚地提出如下建议:
(1) 积极响应国家政策, 以网信办等主管部门发布的相关文件为指引, 做好算法备案、安全自评估等工作;
(2) 加强对合规标准的自主探索, 建立企业层面的评价体系, 坚持以公平、公开、向善的原则开展有关技术的研究和应用工作, 加强 AIGC 全生命周期合规工作的监督意识, 确保训练阶段不脱节、应用阶段不违法;
(3) 加强企业安全管理制度建设, 用制度规范行为, 做到安全管理常态化;
(4) 加强科技创新, 着重解决现有技术中存在的难题, 突破算法透明度、健壮性、歧视与偏见等技术局限, 打破行业发展瓶颈;
(5) 主动承担社会责任, 加强正面宣传, 帮助广大人民群众了解 AIGC 技术的现状和发展趋势, 引导大众正确使用相关技术服务, 助力 AIGC 真正造福社会、造福人类。
网易副总裁、网易智企总经理阮良表示:可以说, 几乎所有的业务都适合用 AI 重做一遍, 所有的效益都值得被 AIGC 放大一遍。作为网易智企旗下的新一代数字内容风控领军者, 网易易盾基于丰富的内容安全行业经验积累, 为企业提供算法备案等安全专家咨询服务, 以数字化的方式帮助企业客户用 AIGC 放大效益, 用《生成式人工智能 (AIGC) 内容安全合规指引》与 AIGC 内容安全解决方案与所有拥抱 AIGC 的企业伙伴们奔向长效、奔向未来。
来源：砍柴网
