审视人脸识别:一种AI技术的全球性滥用( 四 )


现在 , 美国的一些州已经确定 , 商业公司未经其同意使用人脸这样的个人生物识别数据是非法的 。 伊利诺伊州还允许个人对此提起诉讼 。
例如 Fcebook 就已同意支付 6.5 亿美元 , 以解决伊利诺伊州集体诉讼案 , 该诉讼案涉及一系列被用于人脸识别的非公开照片 。 总部位于纽约 Clearview AI(传该公司的人脸系统已经抓取到 30 亿张在线照片 , 并为警方和富豪提供定制服务) , 也正在面临人脸数据违规采集和使用的集体诉讼 。
“我不担心政府 , 我担心谷歌和脸书” 。 北卡罗莱纳州威尔明顿大学的教授 Karl Ricanek 曾如此说道 。
“我认为 , 他们比政府拥有更多的公民信息 , 而且我们无法动摇这些公司的领导地位 。 我认为我们的政府至少还有着良好的使命 。 从学术角度来看 , 我们正在努力解决一些问题以让世界变得更好 , 而不是大多数人想着赚钱 。 ”
这些存在感愈发强烈的声音 , 也促使着该领域的一部分研究者重新反思 。
开始分化的学界
今年 , 针对人脸识别研究存在的棘手伦理问题 , Nature 对全球 480 位从事人脸识别 / 计算机视觉 / 人工智能工作的研究人员进行了一次问卷调查 。
这也是 Nature 首次进行这类性质的调查 。 结果显示 , 该领域的学者已经出现观念分化:一些科学家十分关注该领域的工作道德规范 , 但另一些科学家仍然认为学术研究没有问题 。 在某些问题上 , 受访者表现出明显的偏好 。
当被问及对将人脸识别用于预测个人特质(例如性别、性别认同、年龄或种族)研究时 , 约三分之二的人表示 , 此类研究应在数据被收集者同意的情况下进行 , 或与可能受影响的群体的代表进行充分沟通 。
但是在这以外的问题上 , 分歧明显出现 。 大约 40%的受调查学者认为 , 在收集人脸数据之前 , 研究人员应征得个人的知情同意 , 而超过一半的人认为这并不必需 。
瑞士马蒂尼 Idiap 研究所生物识别小组负责人 Sébastien Marcel 认为 , 研究人员应获得知情同意 , 但实际上却很难保证 。 他所在的小组不会在网络上抓取人脸图像 , 但是会使用其他人已发布的在线图像数据集 。 “许多研究人员会回避这件事:他们认为这不是他们的问题” , 他说 。
Springer Nature 期刊政策总监 Ed Gerstner 说 , 出版商正在考虑采取何种措施来阻止研究使用不经被采集者明确授权的数据集 。
Nature 调查还询问该领域的研究者 , 即使获得知情同意 , 对敏感人群(如受到严密监视的难民或少数群体)的人脸识别研究是否仍然存在伦理问题 。 总体而言 , 71%的人表示同意 。
一些持相反观点的研究者 , 则试图在学术研究和人脸识别的使用方法之间做出区分 。 他们强调 , 重点应该放在谴责和限制人脸识别的不道德应用上 , 而不是限制研究 。
伦理学家自然认为这种区分是幼稚的 。 “这是一种 ‘ 我只是个工程师 ’ 的心态 , 但现实已经远远超越了这个界限 。 ” 康奈尔大学的社会学家 Karen Levy 评价道 。
那么 , AI 学界应该对有道德问题的研究采取什么措施?
最受欢迎的答案是 , 在同行评审的过程中 , 应该明确询问该研究是否合乎伦理 , 例如该研究是否事先获得伦理学机构的批准(例如 IRB , Institutional Review Board , FDA 等监管机构对生命科学实验的管理采用了这种机制) 。 几乎一半的受访者认为应该这样做 , 另有四分之一的人认为这取决于具体的研究 。

推荐阅读