您的位置：首页>资讯 >

AI 诈骗成功率 100%？度小满防深伪模型“用魔法打败魔法”

来源：雷科技时间：2023-05-26 14:04:04

日前 , 一条 #AI 诈骗成功率接近 100%# 的话题冲上微博热搜。一个 AI 换脸的视频 , 让福建某科技公司的法人代表在 10 分钟内就被骗走了 430 万。

国外也发生了一起 AI 相关诈骗 , 一封附上谷歌 CEO 视频的邮件 , 让不少 YouTube 博主们下载了带着危险病毒的文件。

【资料图】

这两起诈骗事件都有着深度伪造技术 deepfake 的身影。这是一项诞生了 6 年之久的换脸大法 , 如今 AIGC 技术的大爆发 , 更使得制作难以识别的 deepfake 视频越来越容易。对人脸识别应用普遍的金融行业来说 , 防深伪攻击也显得尤为重要。

在金融行业 , 由 deepfake 产生的欺诈主要是身份欺诈 , 即通过深度伪造的虚假图像和视频来冒充他人身份 , 骗过金融信贷流程中的身份核验系统 , 进而实施盗刷和恶意注册等。目前 , 金融行业应对 deepfake 已有了比较成熟的技术方法和方案 , 度小满在 deepfake 应对方法上就积累了丰富的经验。

度小满介绍 , 近年来利用深伪技术绕过人脸识别流程的趋势有所增长 , 对金融机构实名认证系统造成了一定的威胁。而要识别认证内容是否造假 , 最好的办法是交给 AI 去解决 , 研发 " 反 deepfake" 检测算法。据了解 , 度小满防深伪检测模型的算法策略就从三个维度入手 , 有效破解造假视频。

首先是生成瑕疵。具体而言 , 由于相关训练数据的缺失 ,deepfake 模型可能无法正确渲染部分人类面部特征 , 小到眨眼频率不正常 , 大到口型与声音不吻合等。检测模型则能将这些 " 基本肉眼可见 " 的特征都提取出来 , 设计特定的分析算子 , 从而进行分析研判。

其次是固有属性。由于不同摄像机拥有不同的设备指纹 , 类似 GAN 这种模型在生成人脸时也会留下独特的用于识别生成器的指纹 , 因此经过对比就能发现端倪。

第三个细节是高层语义。它指的是检测面部动作单元 ( 肌肉群 ) 协调性、面部各区域朝向一致性、视频微观连续性等方面的问题 , 由于这些细节建模困难、难以复制 , 很容易抓到把柄。

当然 , 由于单一特征难以适应复杂的 deepfake 内容 , 因此检测模型的整体框架采用的是多特征融合 , 以此来保证决策的鲁棒性。

在数据样本优势之外 , 度小满还融入了自己的独创点 , 包括神经网络搜索调优算法、微表情分析和图卷积 ( GCN ) 技术以及基于重建的自监督预训练方法 , 让模型实现了从 " 鉴伪 " 到 " 鉴真 " 的转变。

也正因此 , 去年 9 月度小满防深伪检测模型顺利通过了信通院人脸识别安全专项评测 , 获得活体检测安全防护能力优秀级认证。具体效果上 , 它可以覆盖各种深伪形式 , 包含静态人像图片活化、AI 换脸、人脸虚假合成等 , 达到千分之一误报率下召回 90% 以上 , 也就是 99%+ 的准确率。

随着新的 deepfake 工具不断涌现 , 金融行业要应对的深伪攻击会更多。度小满认为 , 未来更多的鉴伪技术应该集中去挖掘语义特征、跨模态特征等 , 让模型利用可解释性强的高层语义去鉴伪。作为创新型金融科技企业 , 度小满也将为金融行业的稳健发展贡献更多科技力量。

关键词：