AI换脸越来越溜儿 谁能阻止它走向堕落( 二 )


利用Deepfake技术,即使是一个对视频剪辑一窍不通的外行,也只需一个强大的GPU(图形处理器)和上百张人物样图,输入至少一个算法,就能完成人脸交换,并且可以制作出非常逼真的视频效果 。 “普通人在经过一段时间的学习以后,完全能够掌握这项技术 。 ”翁仲铭感叹 。
“虽然现在这项技术操作起来简便,但是原来要用软件实现这个过程是非常艰难的 。 ”翁仲铭解释,视频中人是动态的,比如一个60帧(fps)的视频中,每秒钟画面更新60次,如果是PS的话需要处理60张静态图片,然后将其前后连接起来形成一个动态图 。 一个短视频动辄数分钟,甚至十多分钟,如果按照一分钟处理3600张计算,一个几分钟的短片也要处理多达上万张照片,所以需要强大算力的GPU来支撑 。
翁仲铭认为,近些年随着GPU的发展,其算力越来越强大,也使得Deepfake技术处理照片越来越轻松,使用越来越方便 。 这可能也是2018年12月以来,造假视频成倍增长的原因之一 。
以技制技打假“李鬼”还不够
如此强大的“黑科技”采用了最先进的人工智能技术,通过比较简单的运算,就有可能生成以假乱真的视频 。 但是Deepfake技术在运行几天之后,就遭到了唾弃,被全球封禁,还被世人称为“最邪恶”的技术 。
因为太过以假乱真,其破坏力不可估量 。 事实证明,人们的担心并非杞人忧天 。 Deepfake第一次亮相就是将《神奇女侠》盖尔·加朵的脸,嫁接到了一部成人电影女主角身上 。 此外由Deepfake制作的假视频已引发多起刑事案件,甚至卷入政治纷争 。
不过再完美的技术也不是无懈可击的,专家们提出了几种辨识Deepfake换脸视频的方法:比如眨眼率,通过Deepfake制作的对象的眨眼率少于正常人;语音和嘴唇运动的同步状况;情绪不符合;模糊的痕迹、画面停顿或变色 。 不过翁仲铭表示,这些方法,Deepfake通过加强对样本的学习,都可以解决,迟早会有人可以通过Deepfake技术制造出人类用肉眼无法识别的“假脸” 。
“也有不少人想到以AI对抗AI 。 ”翁仲铭介绍,美国国防部研发了全球首款“反AI变脸刑侦检测工具”,专门用于检测AI变脸或换脸造假技术 。 不过,人工智能基金会的研究副主席戴利普承认,现时Deepfake检测算法的准确率,即使可高达97%,但鉴于互联网规模非常大,余下的3%仍然极具破坏力 。
目前还有一个识别Deepfake换脸的新思路,叫作“活体取证”,该技术主要是根据分辨率、三维信息、眼动等来区分真假,因为翻拍的照片分辨率和直接从真人上采集的照片在质量、分辨率上比都有差别 。
“整个算法遵循的观察规律是:生物信号还没有保存在假视频中,这些信号在生成噪声时也产生了不同的标识 。 ”翁仲铭解释,换句话说,假视频中显示的“人”不会表现出与真实视频中的人相似的心跳模式,通过这种方法可以找到每个生成模型的唯一签名(标识) 。 值得一提的是,无论遮挡、照明条件如何变化,这些标识在真实视频中是不存在的 。 利用这些标识可以找到假视频背后的生成模型,然后反过来提高整体的假视频检测精度 。
“道高一尺魔高一丈,利用Deepfake技术的人也在不断改进换脸的水平,因此从长远来看,我们必须寻求更有力的方法来维护和证明社交媒体信息的真实性 。 目前几乎没有任何工具可以帮助读者确信其在网上看到的信息来源可靠,且没有被篡改 。 ”翁仲铭强调,改善这种情况需要从视频发布源头进行管理,比如实名制,同时加强立法,增加网络警察巡逻等,严厉打击这种造假行为 。

推荐阅读