前谷歌AI伦理专家TimnitGebru遭东家解雇：论文或为导火索

IIII阿怪

据《麻省理工技术评论》报道，前谷歌 AI 伦理学家 Timnit Gebru 与人合著的一篇论文对谷歌提出了一些可能棘手的问题，比如 AI 语言模型是否太大以及科技公司在降低潜在风险方面做得是否足够。该论文还对大型语言模型的环境成本和固有偏见提出了质疑。


谷歌的 AI 团队在 2018 年创建了一个语言模型 --BERT，它非常成功，公司还将它融入到了其搜索引擎中。搜索是谷歌利润丰厚的业务，仅在今年第三季度，它就为公司带来了 263 亿美元的收入。今年 10 月，谷歌 CEO 桑达尔 · 皮查伊在与投资者的电话会议上表示：" 今年包括本季度都显示了谷歌的创始产品 -- 搜索 -- 对人们的宝贵价值。"
Gebru 和她的团队在一场研究会议上提交了题为《On the Dangers of Stochastic Parrots: Can Language Models Be Too Big?》的论文。然而在当地时间周三的时候，她在 Twitter 上发文称，经过内部审查后，她被要求撤回这份报告或将谷歌员工的名字从文章中删除。她表示，自己向谷歌询问了将她名字从论文中删除的条件，如果不能满足这些条件那么他们之间将会是 " 最后一次约会 "。Gebru 表示，她随后从谷歌那里收到了通知其他们 " 接受她的辞职，立即生效 " 的电子邮件。
谷歌 AI 负责人 Jeff Dean 在给员工的电子邮件中指出 ，Timnit Gebru" 没有达到我们的出版标准 "。他写道，Gebru 继续在谷歌工作的条件之一是，公司要告诉她谁看过这份报道以及他们的具体反馈，但其拒绝这么做，"Timnit 写道，如果我们没有满足这些要求她就会离开谷歌并在一个截止日期前工作。我们接受并尊重她从谷歌辞职的决定。"
Dean 在信中写道，这篇论文 " 忽视了太多相关研究 "，但该论文的合著者、华盛顿大学计算语言学教授 Emily M. Bender 对此提出了异议。Bender 告诉《麻省理工技术评论》，这篇有 6 位合著者的论文 " 是那种没有任何个人或甚至是一对作者能够完成的工作 "，另外她还指出他们的论文拥有 128 个引用书目。
Gebru 因其在算法偏差方面的工作而闻名 -- 尤其是在面部识别技术方面。2018 年，她跟 Joy Buolamwini 合写了一篇显示的论文，其背后原因是用于训练算法的数据集绝大多数都是白人。
Gebru 在周四接受 Wired 采访时表示，她觉得自己受到了审查。" 你不会有让公司一直开心也不会指出任何问题的文件。这跟成为研究人员的意义背道而驰。"
自 Gebru 被解雇的消息公开后，包括 1500 多名谷歌员工在内的数千名支持者签署了一封抗议书。请愿者要求 Dean 和其他参与审查格 Gebru 博士论文的人跟 Ethical AI 团队会面以此来就该论文被领导层单方面拒绝的过程进行说明。
对此，谷歌于周六并未回复记者置评请求。