自 chatgpt 问世以来，人工智能行业高速发展，已成为当前社会一大主流趋势。
自 chatgpt 问世以来，人工智能行业高速发展，已成为当前社会一大主流趋势。然而，高速发展的新行业不可避免的带来一些弊端，生成式人工智能带来的风险也日益显现。例如生成技术可能被用于制造虚假信息或进行网络攻击，对网络安全构成威胁;生成内容难以与真实内容区分，可能误导公众;AI 生成内容可能触及道德和伦理底线，如生成违法或不道德的内容。其中与网民最息息相关的还是信息泄露问题，AI 需要收集更多类型的用户信息作为「养料」，增加了个人信息泄露的风险。
在此背景下，中国信息通信研究院 (简称「中国信通院」) 联合抖音、百度、阿里巴巴、科大讯飞、合合信息等科技企业，共同参与了《生成式人工智能个人信息保护技术要求》系列标准 (下称「标准」) 的编制。
经过充分的研讨，《生成式人工智能个人信息保护技术要求》系列标准覆盖了生成式人工智能的设计、训练与应用三个阶段，主要围绕总则、隐私声明告知、训练数据构建、模型规制控制、供应链保障、二次开发管理、输出阶段管理、个人权利响应，共计从八个方面提出个人信息保护指引。
从用户角度看，标准的制定有利于保护个人合法权益;从企业发展角度看，标准为企业研发生成式人工智能降低了不确定性;从行业发展角度看，能为监管机构指导企业活动提供参考和依据，引导生成式 AI 行业健康发展。除此之外，标准也有利于企业积极承担个人信息保护义务，为用户提供更安全、更可靠的信息服务。
在数据安全和隐私保护方面，合合信息积极响应号召，针对产品设计、运营多个维度建立起了一套标准完善的体系、流程、控制措施和规范，获得了多方认可。合合信息曾荣获上海市网信办「2023 年度网络数据安全风险评估试点工作优秀单位」称号，旗下的扫描全能王、名片全能王、启信宝等产品在中国网络安全产业联盟 (CCIA) 数据安全工作委员会个人信息保护影响评估专题工作 (简称「PIA 专题工作」) 中荣获「PIA 二星级标识」。
此外，合合信息还发布了 AI 图像安全技术方案，包括 AI 图像篡改检测、生成式图像鉴别等重点技术，可用于对抗恶意的图像篡改、虚假生成图片和非法个人信息的获取。
科技向善不仅是一项理念，更是一个实践过程。合合信息将始终坚持拥抱创新，用技术的力量造福社会群众，发现潜在风险，积极寻求行业共识和解决方案，让人们在 AI 发展的高速列车上享受科技带来的便利生活。
来源：互联网
