东莞网移动版

主页 > 科技 >

谷歌AI伦理团队创始人:我被开除了

原创 文摘菌 大数据文摘

大数据文摘出品
作者:Caleb
去年末,谷歌AI伦理团队联合负责人一事在全球都闹得沸沸扬扬。
新年伊始,你以为谷歌就会“新年新气象”了?
天真!
这不,就在几个小时前,谷歌AI伦理部门创始人Margaret Mitchell在社交媒体上表示,“我被开除了”。

对于这项举措,谷歌在邮件中表示:
在对该经理的行为进行审查之后,我们确认其存在多次违反公司行为准则和安全政策的行为,其中包括泄露机密的业务敏感文件和其他员工的私人数据。
根据Axios报道称,早在1月份,谷歌就撤销了Margaret Mitchell的公司访问权限,原因是其使用自动脚本查找了公司“虐待”Timnit Gebru的相关证据。
本月早些时候,Mitchell在推特上发布了一封电子邮件,邮件中谈到了Gebru被解雇的情况,以及该事件似乎“受到了种族主义和性别歧视者们的支持”,“如果AI系统被别有用心的人加以利用,也会受到同样的影响”。

邮件全文链接:
https://docs.google.com/document/d/1ERi2crDToYhYjEjxRoOzO-uOUeLgdoLPfnx1JOErg2w/edit
Mitchell认为,发生在Gebru身上的事情“似乎源于对于现代技术缺乏远见,因此该事件本身就是这个问题的显现”。
支持Gebru是Mitchell被解雇的原因?
也正如Axios之前所报道的那样,Mitchell被解雇发生在谷歌宣布对其AI伦理团队进行重组的后一天。谷歌工程组织副总裁Marian Croak现在领导着“谷歌研究中心一个负责任的人工智能新专业中心”。
根据Mitchell的LinkedIn资料显示,她在2016年加入谷歌,担任高级研究科学家。两年后,她与Gebru一起成立了谷歌AI伦理团队。
去年12月,Mitchell和Gebru正在撰写有关大型语言处理模型的危害的论文,当Google Brain副总裁Megan Kacholia要求撤回该文章时,Gebru却表示,谷歌需要更加开放,思考“为何这项研究不被接受”。
这此后不久,Gebru便被解雇了,尽管谷歌将其描述为主动辞职。

Gebru事件发生后,Mitchell便开始公开批评谷歌高管,包括谷歌AI部门负责人Jeff Dean和谷歌首席执行官Sundar Pichai。1月,在谷歌开始着手调查相关事宜时,Mitchell发现自己失去了公司电子邮件访问权限。
对此,外界普遍猜测,Mitchell被解雇在很大程度上都是因为其与Gebru的关系,以及在后续一系列活动中对Gebru的声援。
在对Gebru事件进行调查之后,谷歌宣布将对其研究和多元化政策进行更改。在一封内部电子邮件中,Jeff Dean向员工道歉,表示他对公司处理Gebru离职一事深表遗憾。
“我听到并承认Gebru博士的退出对女性技术人员、黑人社区人员以及追求技术职业的其他代表性不足的群体以及对谷歌负责任地使用AI表示深切关怀的人代表着什么。这会使得这些人质疑他们在公司的位置,对此我感到遗憾。”
自Gebru事件于去年12月发酵以来,谷歌的AI伦理团队就一直处于危机中。在宣布重组后,高级研究员Alex Hanna写道,直到周三晚上新闻报道后,团队才知道Croak的任命。
“他们都让我们要相信他们的处理方式,相信Marian Croak这样的决策者,他们会把我们利益最大化,”她在推特上写到,“但所有的决定都是背着我们做出的”。
谷歌连续曝出的解雇风波在业界引起巨大轰动,也引发了人们对谷歌对异议的容忍度的质疑。
2018年至今,谷歌内部已经发生过多次大规模的抗议活动。最近,多位谷歌员工宣布共同成立Alphabet工会,希望在薪酬和伦理等问题上向公司施压。
伦理问题需要得到相同程度的重视
Mitchell以在人脸识别偏见的批评而闻名于世。
去年7月,MIT正在使用的一个高引用图片数据集被曝出存在强烈种族歧视和厌女症标签。 (责任编辑:东莞网)

友情链接