生成式人工智能技术（下文简称「生成式 AI 技术」）的广泛应用给很多行业带来了新的市场增长引爆点，但同时，也带来了伪造账户、传播虚假信息、数据安全等风险。
生成式人工智能技术（下文简称「生成式 AI 技术」）的广泛应用给很多行业带来了新的市场增长引爆点，但同时，也带来了伪造账户、传播虚假信息、数据安全等风险。其中，企业最需要关注、防范的风险之一，就是诈骗分子利用生成式 AI 技术进行深度内容伪造从而实施的新型诈骗（下文简称「AI 欺诈」）。
全球反洗钱合规和数字身份验证技术服务商、人工智能企业 ADVANCE.AI 副总裁崔琦曾指出：「计算机图像、语音合成等前沿 AI 技术的快速发展，降低了不法分子盗取、伪造用户人脸图像、语音等身份信息进行欺诈的技术门槛，为全球网络安全埋下了一个重要隐患。」
而对于用户数量众多的社交、直播、跨境电商、游戏等在线服务企业，严防新型 AI 欺诈更是需要提上业务管理的日程，因为这些在线服务企业，不仅已经是生成式 AI 内容传播的主要渠道，更是成为了被欺诈分子觊觎的「欺诈资源」。
ADVANCE.AI 副总裁崔琦表示：「严防 AI 欺诈，各类提供在线服务的企业不仅要确保各项业务的合规运营，还要加强对 AI 技术应用的自治管理。比如，通过在用户注册、登录环节部署合理的数字化身份欺诈风险防范策略；在业务运营中设置异常用户行为报告制度；均能够助力有效识别具有危害性的生成式 AI 内容，包括但不限于虚假账户、伪造产品图片、恶意舆论等。如果已知有相关风险内容存在时，各类在线服务企业要通过打标签、权限降级、关停、删除账户等手段积极干预调整。」
01 企业加强 AI 技术应用自治管理的必要性
必要原因一 AI 欺诈不分地域，正在全球范围爆发。
诈骗分子常利用 AI 技术生成的虚假视频、图片或声音，冒充被害人的某个领导、朋友、亲戚等熟人身份进行欺诈，因仿真度过高，混淆性极强，导致普通用户难以分辨，且经常实施远程诈骗，使得这种欺诈行为在当下的欺诈成功率竟接近 100%，给公众财产安全、信息安全、甚至人身安全都带来了严重威胁。
让我们了解两个发生在海外国家的 AI 欺诈典型案例：
案例一：根据网络公开信息的讲述，诈骗分子通过 AI 技术伪造了一位德国公司高管的音频片段，并利用这段伪造的音频，联系了该公司在英国分公司的 CEO，要求其安排员工给一个匈牙利的账户汇款 24.3 万美元，欺诈分子利用这段伪造的音频给英国分公司负责人前后致电了 3 次电话均未被当事人发觉异常。
案例二：根据海外媒体的报道，诈骗分子通过 AI 技术伪造了一位美国小孩在异地遭遇困境的声音和场景，并利用这段伪造音频联系了小孩的母亲，在确认这位母亲已上当且认为自己小孩遇险后，诈骗分子开始勒索，警告这位母亲不允许报警，并提出了要给付 100 万美元的赎金要求。
必要原因二 针对企业的自动化欺诈显著增多，防不胜防。
欺诈分子会利用生成式 AI 技术大规模创建新的身份和账户，用虚假账户代表独特的「人」，然后利用这些虚假账户发布有关个人、团体或组织的虚假信息、制造恶劣舆论、或冒充他人获取未经授权的权限，进一步实施犯罪行为。
当下，通过恶意机器人进行的自动化网络欺诈和攻击正在显著增多，表现出来的攻击趋势包括:
节假日或特定活动事件发生前后的自动化攻击显著增加。
来自移动端设备的恶意请求正在增加。
恶意机器人流量在全网在线流量中的比例增长迅速。
必要原因三 仅有少量国家已针对生成式 AI 的应用发布监管细则，大多数国家尚未公布专门针对 AI 技术发展的规制性文件。
面对生成式 AI 模型的激增和可能带来的风险，虽然大部分国家的监管部门都已经在启动监管探索，但当下，仅有少数国家完成了相关监管立法。
然而，AI 欺诈具有全球化、跨地域、易于远程实施等特点，不同地区监管力度和监管方式不一致的客观情况，极易被欺诈分子所利用，导致欺诈行为难以被问责或被害人的损失难以追讨。
因此，严防 AI 欺诈，企业加强自治管理的必要性意义更加凸显：一方面，在外部监管不确定性较强、不同国家监管现状差异性较大的情况下，企业能够通过严格的自治管理，切实保障用户权益和服务运营的稳定性；另一方面，也可以向监管部门传递积极的信号，告知监管部门企业可以通过自治的方式有效控制新技术的应用风险，这将有利于数字经济行业整体的稳定发展。
02 一站式数字身份验证和风险管理解决方案助力企业自治管理
在企业加强欺诈防范能力的自治管理策略上，ADVANCE.AI 推荐可部署的数字化策略包括：
第一, 可以在用户注册、登录环节部署活体检测和人脸比对等身份验证工具，可以防范利用伪造身份、虚假身份进行在线欺诈的不法分子。
第二，定制化部署风险评估模型，比如通过用户的手机号、联系人手机号、常用邮箱账户、常用社交媒体账户、IP 地址等维度做聚集性关联分析（若历史数据足够可发展关系网络等），实时拦截异常注册或登录申请，可以防范虚假账号生成。
而根据社交、直播、跨境电商、游戏等在线服务企业运营海外市场的实际需求和欺诈防范痛点，ADVANCE.AI 特别推出了「星鉴」数字身份验证与风险管理解决方案——这是一套端对端、一站式、可定制化的数字化解决方案，集成了数字身份验证、无感知风险管理、反洗钱合规三大解决方案业务体系，能够帮助容易面临高欺诈风险的企业和金融机构，轻松管理全球用户、防范欺诈风险、落实反洗钱监管要求、合规管理用户数据，尤其适合需要开拓东南亚、拉丁美洲、非洲等新兴国家市场的企业或金融机构进行选择。
「星鉴」数字身份验证与风险管理解决方案部署流程
ADVANCE.AI 的「星鉴」解决方案包含的生物识别、人脸比对功能，人像识别精准率超过 99%，并特别针对东南亚、拉丁美洲、非洲等地区的用户使用习惯进行了优化，识别不受当地用户低配手机摄像头或验证环境光照条件的影响，且能够控制识别响应时速在 1 秒以内。
同时，ADVANCE.AI 的生物识别技术还对用户戴着帽子、眼镜或化妆之后进行人脸识别时的验证效果进行了优化。
ADVANCE.AI 的「星鉴」解决方案还包含了活体检测功能，可以识别部分通过 AI 工具生成的人脸图像或视频，助力防范新型的「AI 欺诈」。
目前，ADVANCE.AI 的技术服务已助力全球超过 700 家金融机构和企业提升了其在用户登录、注册环节的身份验证操作体验，提高了审核精准度和业务运营的效率和安全，身份验证产品的 API 日均调用量达到 400 万次，年调用量已接近近 20 亿次。
关于 ADVANCE.AI
ADVANCE.AI 成立于 2016 年，是领先的人工智能公司，提供数字转型、反欺诈和流程自动化等解决方案，已成功服务全球超 700 家知名企业客户，聚焦服务行业和领域包括银行、金融服务、金融科技、支付、零售、电商、物联网、出行以及共享经济；总部位于新加坡，并在全球如印尼、印度、菲律宾、马来西亚和越南等国设有本地客户支持团队；隶属 Advance Intelligence Group，其业务覆盖 12 个市场，拥有 1500 名员工，旗下企业和消费者业务共服务超过 700 家企业客户、10 万家商户和 2000 万消费者。
来源：巴喜传媒
