识谣言、辨假货 人工智能已活跃在打假一线( 二 )


除去文字造假 , 图片视频造假也越来越多 。 “我们将虚假新闻配图分为复用的过时图片、能引起歧义的误导性图片及篡改图片 。 假新闻通常呈现出新闻要素缺失、图像质量低、内容包含色情敏感广告等低俗信息 , 以及图文不匹配等特点 。 例如 , 有些假新闻中的配图会出现满屏弥漫冲天大火、公路凹陷深坑、被弃男童在垃圾废墟前嚎啕等画面 。 ”曹娟描述道 , “谣言更易形成病毒式扩散的趋势 , 而真实新闻的扩散速度和爆发度要温和许多 。 ”
“从核心技术上 , AI甄别谣言依赖于‘三多’ 。 ”曹娟说 , 一是多模态数据 , 谣言从发布、传播到被辟谣的生命周期中 , 可能会伴随产生文字、图片、视频、传播网络、参与用户属性等多种模态的数据 , 各模态数据均能不同程度指示谣言 , 例如谣言文字的情感倾向、图片的视觉冲击力、传播网络的结构属性等 , 但没有哪种模态的数据拥有独立完全的谣言指示能力 , 所以要尽可能获取不同模态的数据 。
二是多层次表示 , 深度学习技术有强大的表示学习能力 , 经过神经网络结构和融合机制的设计 , AI模型可以在面对众多意义、形式、结构都不同的模态数据时 , 综合不同层次数据 , 自动找出最有区分能力的表示组合 , 并将待甄别文章对应的文字、图片、传播网络等融合投射到特征空间中 。
三是多角度判断 , AI可以从单一方面(如内容、用户、传播)给出可信度 , 也可以全面观察 , 给出综合所有信息的可信度 , 及时帮助人们“揪出”可信度不高的信息 。
结合专家经验辨别虚假商品
曹娟介绍 , 目前除了鉴别虚假新闻、虚假图片 , AI虚假检测技术还可以应用在对虚假商品的检测上 , 如基于视觉信息技术鉴定一些高档商品的真伪 。
2017年 , 美国纽约大学成功研发出一套假货鉴定系统Entrupy , 用户利用配有微型相机的手持设备对鉴定物品进行拍摄 , 这个系统利用机器学习算法 , 分析图像 , 最终确定产品的真实性 。 其联合创始人介绍 , 除了表面是屈光的钻石和瓷器不能检测外 , 这项技术使用光学分析可测试汽车零部件、手机、充电器、耳机、夹克和鞋子 , 甚至原油 。
近日 , 中国科学院计算技术研究所与国内某奢侈品电商宣布共建联合实验室 , 探索智能鉴定和智能内容分发、在线鉴定商品业务等内容 。 那么 , AI如何对商品 , 如包、鞋辨别真假;在识别假货方面 , AI可替代专家吗?
“与人识别假货相比 , 在强度、效率等方面 , AI有着突出表现 。 例如 , 一般识别假LV包的专家 , 工作一天只能鉴定五六个包 , 而AI筛查一个包仅需几分钟 。 实际操作中 , AI先在大量筛选中发现异常情况 , 报警示错 , 再由专家来做进一步甄别 。 即以AI技术打假为主、以人工审核为辅 , AI还不能替代专家 。 ”曹娟说 。
【识谣言、辨假货 人工智能已活跃在打假一线】曹娟表示 , 虚假商品检测可形式化为异常检测问题 。 正品样本往往量很大 , 但仿品样本量很小 , 甚至为零 。 这时候 , 只能对大量正品进行建模表示 , 然后对待检测样本 , 要看它与正品相比是否存在异常 。 但单纯的数据学习是困难的 , 鉴别中还要结合鉴定专家的经验知识 , 以引导模型学到快速定位异常区域的能力;同时 , 模型通过数据驱动发现的视觉规律 , 也会反馈给专家 。 因此 , 这是一个专家和模型相互学习、迭代提高的过程 。 (采访人员 华 凌)

推荐阅读