GOOGLE摊上事了 google事件

Gebru的支持者表示 , 谷歌的政策“实施得不均衡且具有歧视性” 。
最近 , 科技圈的发生了一件大事 , 知名AI学者之一、人工智能伦理研究员Timnit Gebru被谷歌突然开除 , 引得一众哗然 。
Timnit Gebru毕业于斯坦福大学 , 师从李飞飞 , 是AI行业为数不多的黑人女性领导者之一 , 在AI伦理领域 , Gebru不仅是基础研究者 , 更是许多年轻学者的榜样 。
她最知名的研究是在2018年发现 , 面部识别软件对黑人女性有高达35%的错误率 , 而对白人男性几乎完全正确 。

GOOGLE摊上事了 google事件


然而 , 因一篇论文不符合谷歌内部评审 , Gebru宣称被谷歌单方面辞退 。
一篇论文引发的争议大约一周前 , Gebru对外宣称 , 因与他人共同撰写了一篇批评谷歌AI系统的研究论文后 , 自己被谷歌解雇了 。
然而 , 谷歌对外表示 , 因论文审查不符合谷歌要求 , 接受Gebru的个人辞职申请 。
据外媒报道 , 这篇论文标题为“On the Dangers of Stochastic Parrots: Can Language Models Be Too Big?”(随机鹦鹉的危险:语言模型会太大吗?) , 由谷歌的内部团队和外部研究人员共同撰写 , 提出科技公司应该做更多事情 , 以确保AI写作和语音识别不会加剧歧视 。
值得注意的是 , 论文内容谈到了谷歌BERT(自然语言处理系统)在AI伦理上的负面影响 。
GOOGLE摊上事了 google事件


一开始 , 双方的争议点在于审查流程的问题 。根据谷歌公司发表论文的流程 , Gebru应在两周前提交论文 , 而不是在最后期限的前一天 。
但Gebru的团队对这一评估进行了反驳 , 称审查政策旨在灵活 , 大多数人并没有遵循目前谷歌AI负责人Jeff Dean制定的结构 。该团队收集的数据显示 , 绝大多数的审批都发生在截止日期之前 , 41%的审批发生在截止日期之后 。他们写道:“没有硬性要求论文必须在两周内真正通过这个审查 。”
同时 , Dean认定该论文没有达到标准 , 因为它“忽视了太多相关研究” , 从而要求她撤回这篇论文 , 或者删除谷歌员工的署名 。
据《泰晤士报》(the Times)报道 , Gebru在撤回该论文之前 , 曾要求与谷歌进行进一步讨论 。Gebru表示 , 如果谷歌不能解决她的担忧 , 她将从公司辞职 。
随后谷歌告诉Gebru , 公司不能满足她的条件 , 并将立即接受她的辞职 。
GOOGLE摊上事了 google事件


Dean还表示 , Gebru煽动同事不要参与谷歌的DEI(多元化、公平和包容性)项目 , 他对此感到失望 。
不久 , Gebru很快就发现已经无法登陆自己的公司账户 , 这表示她已经被开除了 。
离职后的风波【GOOGLE摊上事了 google事件】离任后 , 总共有超过1,400名Google员工以及1,800多名其他行业专家签署了一封公开信 , 以支持Gebru 。
信中写道:“格布鲁博士并没有被谷歌誉为杰出的人才和多产的贡献者 , 而是面临着防御 , 种族主义 , 研究审查以及现在的报复性开除 。”
为Gebru辩护的前同事和外部行业研究人员们质疑 , 在这种情况下 , 谷歌是否武断地更严格地执行了规则 。
前Google员工发推文表示“我支持@timnitGebru” 。
共同参与论文的@MMitchell则转发Jeff Dean关于辞退的声明 , 并讽刺道:“‘没有达到出版的标准……它忽视了太多相关研究’……谷歌这样评论我们的论文 , 但我们的论文却有超过128个交叉学科的引用……所以(他们就)开除了其中一个作者 , 真是太奇怪了!”

推荐阅读