如果那些指出免费提供的生物识别深度伪造工具存在危险的呼声听起来有些危言耸听,那么请看看最新的案例:Deep-Live-Cam 是一款换脸软件,它仅使用一张源照片就能将一张脸实时数字视频映射到另一张脸上,因此在社交媒体上迅速走红。但ID R&D等公司正在开发相应的防御措施。
ArsTechnica 的一篇报道指出,这款软件在GitHub上免费提供,并曾短暂登上该平台热门代码库榜首。它“将几个现有的软件包整合到一个全新的界面中”,用于检测源图像和目标图像(例如实时视频帧)中的人脸。
这项交换技术基于名为“inswapper”的人工智能模型,该模型由一家名为InsightFace的神秘初创公司开发,该公司总部位于香港,于2024年4月注册成立。(2023年末的一个Reddit论坛帖子指控InsightFace曾对YouTube上展示Roop和Reactor等竞争对手工具的视频发起版权侵权投诉;与此同时,ArsTechnica将Deep-Live-Cam称为Roop的“早期分支”。)
另一个人工智能模型 GFPGAN 通过增强细节和消除伪影来提高 Deep-Live-Cam 的视频质量。
Deep-Live-Cam的AI之所以有效,是因为它使用了一个包含数百万张面部图像的数据集进行训练,这些图像来自数千名个体,他们在不同的光照条件下做出不同的面部表情,并从各种角度拍摄。这使得神经网络能够对人脸结构及其在不同条件下的动态变化进行算法“理解”,并从二维图像推断出三维模型。
报道中展示了一些视频示例,其中美国副总统候选人JD Vance、好莱坞明星休·格兰特和乔治·克鲁尼以及Facebook高管马克·扎克伯格的脸被映射到社交媒体用户的脸上。这段视频演示了Deep-Live-Cam如何将叠加的脸部的姿势、光线和表情与下方的真实脸部进行匹配。虽然在颈部尺寸方面存在一些问题,但最终效果非常逼真。
本周,Veriff 发布的一份新报告发现,换脸技术越来越普遍,发展迅速,并且经常被用于制作色情深度伪造内容。
在领英上,ID R&D的增长副总裁 Peter Martis 为公司的深度伪造检测软件下了战书。“大多数初创公司都会投入巨资开展激进的营销活动,兜售‘我们将帮助你对抗深度伪造’的理念,而 ID R&D 则会在做出革命性承诺之前,先打造出功能完善的原型,”他说道。
Martis称ID R&D最新推出的深度伪造检测引擎第一版“准确得令人震惊”,并表示“远程呈现”是该公司的下一个重大突破,列举了员工入职、远程医疗、移动法律服务和远程会议等关键应用案例(这再次让人想起香港那位可怜的Arup员工,他因为老板的深度伪造视频要求,将2500万美元转移到了虚假的银行账户)。
ID R&D首席科学家Konstantin Simonchik使用该公司开发的IDLiveFace Plus工具对DeepFaceLive进行了测试,并在其LinkedIn帖子中进行了演示。测试需要两天时间进行完全逼真的面部面具训练,但最终成功检测出了来自DeepFaceLive以及一款更简单的换脸应用程序SwapFace的深度伪造视频。
该团队还在近期由 Biometric Update 举办的网络研讨会上演示了人脸替换技术在欺诈检测方面的应用,以及他们的检测系统是如何运作的。该研讨会可点播观看。在视频中,ID R&D 总裁 Alexey Khitrov 谈到了 Simonchik 在其文章中也提到的一点:检测实时视频流中的注入攻击对于生物特征呈现攻击检测的重要性补充。
结合换脸、面部变形和语音克隆等技术,可以制作出能够精准捕捉头发飘动等细节的深度伪造视频。希特罗夫表示:“从生物识别的角度来看,重要的是要明白,如果没有这种额外的注入技术检测保护层, 生物识别信息本身就非常容易受到攻击。从纯粹的安全角度来看,活体检测和注入技术是确保生物识别交易和生物识别身份验证安全的关键要素。”