[ 虎娃导读 ] 更多精彩 ， 敬请关注硅谷洞察官方网站（http://www.svinsight.com）人工智能发展到当下阶段 ， 对于伦理和安全的思考已经逐渐从幕后走向台前 。
2019年5月22日 ， 经济合作与发展组织（OCED）批准了《负责任地管理可信赖AI的原则》 ， 该伦理原则总共有五项 ， 包括包容性增长、可持续发展及福祉 ， 以人为本的价值观及公平性 ， 透明度和可解释性 ， 稳健性、安全性和保障性 ， 问责制 。
其中更为显性的安全问题 ， 在“换脸”风波、人脸信息泄漏等一系列事件的曝光下 ， 为人工智能技术的应用前景蒙上了一层阴影 ， 提高人工智能技术的安全性与可靠性迫在眉睫 。
Deepfake的世界里 ， 眼见不再为实
Deepfake将人工智能话题推上了舆论的风口 。
图：演员Jordan Peele模仿奥巴马声音制作的虚假演讲视频
利用Deepfake造假技术 ， 艾玛肺稚纫恢谂访琅餍潜弧盎涣场痹诹瞬豢擅枋龅男〉缬吧希旒Ｕ车拇罄行榧傺萁病盎ハ喙ペΑ保皇焙涠?/p>作为国内首家致力于推广安全、可靠、可解释第三代人工智能的研究团队 ， RealAI表示 ， 目前AI换脸的技术难度正大幅降低 ， 团队成功将近期人气火热的雷佳音换脸成著名相声演员郭德纲 ， 整个过程仅花费数小时 。
图：雷佳音（左）换脸郭德纲（右）
现今 ， 基于人脸的信息传递已经成为人类社会沟通的主要媒介之一 ， 比如社交平台的照片、网络上的演讲和表演视频 。
换脸技术的出现则极大地影响公众对图片和视频的解读 ， 比如谁该为这段言论负责 ， 以及这段言论的可信度有多大 ， 甚至可能沦为色情复仇的工具、扰乱政界的武器 ， 导致前所未有的社会影响 。
目前Deepfake主要以公众人物为受害目标 ， 但随着AI技术的飞速发展 ， 可能在不远的将来 ， 普通民众也会被波及 。
为了保证AI应用的安全性 ， 目前RealAI团队研发出“反AI变脸检测”工具 ， 专用于检测AI换脸造假技术 。
图：RealAI“反AI变脸检测”技术 ， 绿框为正常视频帧 ， 红框为检测出的造假视频帧
RealAI研究人员表示 ， Deepfake生成的造假视频画面会有不“自然”的纹理存在 。为此 ， 他们通过海量视频训练神经网络 ， 让其学习正常情况中的纹理特征 ， 再以此检测造假视频中不一致的纹理 。利用该技术 ， 可以对造假视频实现逐帧检测 ， 准确率高达90%以上 。
据媒体报道 ， 目前已经出现犯罪团伙利用AI换脸进行诈骗 ， 希望“反AI变脸检测”技术可以遏制此类恶性事件的发生 ， 不要让病态化的“换脸”趋势愈演愈烈 。
“隐身衣”成为可能 ， 犯罪行为“有处遁形”
如果说 ， “换脸”是技术滥用引发的社会安全威胁 ， 那还有另一个不容忽视的问题：AI算法本身也不够安全 。
比如 ， 深度神经网络（CNN）存在的大量的安全盲点 ， 可以被特定构造的输入样本欺骗 。在原始图片上增加人眼看上去无关紧要的噪声 ， 可以恶意地误导AI系统输出非预期的结果 。
图：一张贴纸“骗”过AI摄像头
来自比利时鲁汶大学 (KU Leuven) 研究人员曾在身上贴一张打印出来的贴纸 ， 就成功“欺骗”AI ， 让检测系统无法看到自己 ， 如同穿了哈利波特中的“隐身斗篷” 。
目前 ， RealAI团队也成功开展类似的“隐身”研究 ， 在3D车辆模型的车身上贴上特制的“纸片” ， 使得模型成功逃逸识别 。从具体效果来看 ， 该“隐身”可在高度运动、光线变化等复杂环境中保持较高的鲁棒性 ， 技术优势明显 。
推荐阅读
- 笔记本关机快捷键有哪些？
- 小编教你饿了么消息如何一键全部已读。
- 淘宝图片批量下载器 大仙一键搬图功能介绍
- 微信如何解除实名认证
- 键盘打不出字怎么回事 解决键盘打不出字的方法
- 怎么使用七彩色按键助手
- 怎么使用简单按键助手
- 教你Excel防止他人编辑表格中关键数据的方法
- 教你WIN10电脑按键精灵突然闪退的处理操作步骤
- 粤康码黄码怎么解除。