Google员工又“造反”了：AI伦理委员会，凭什么混进了反LGBT的人？

郭一璞 2019-04-02 13:42:27 来源：量子位

郭一璞 发自 凹非寺

量子位 报道 | 公众号 QbitAI

Google的员工，又开始抗议自己公司了。

一千余名谷歌员工，联合188名学界、科技界等社会各界人士，写了一封联名信，发起了一场浩浩荡荡的反对“LGBT恐惧症”运动。

签名的人数，还在不断增长中。

究其起因，则是上周Google推出的先进技术外部咨询委员会（Advanced Technology External Advisory Council, ATEAC），一个非Google员工组成的AI伦理委员会，帮助Google面对AI发展中面临的公平性等问题。

在这个影响Google AI发展的委员会成员名单中，员工们发现了他们认为不应该出现的人：

Kay Coles James，美国传统基金会（the Heritage Foundation）主席，一个反LGBT、反移民的人。

要知道，Google的不少员工都是从各国来的移民，而LGBT平权早已成为主流的政治正确。

这种反差类似于，一个反对996的作战计划讨论组里，混进来一个996公司的老板。

那么一个旨在帮助Google AI负责任发展的机构，为什么出现了一个偏见这么大的人？

而在这场联署运动之外，Dyan Gibbens，一家曾经为美国空军提供无人机AI成像服务的公司CEO，竟然也进入了这个委员会。

要知道，不将AI应用于武器Google AI七原则中的重要一条啊，而这宝贵的七原则，可是去年员工们付出数十名员工离职、3000人联名上书、持续一整个春天抗议的代价才争取到的。

外部AI伦理委员会，出生即夭折

ATEAC，这个讨论AI伦理的外部委员会是上周刚刚成立的。

3月26日，Google全球事务高级副总裁Kent Walker在Google博客中发文宣布，为了贯彻落实Google AI七原则，完善相关的内部治理结构和流程，成立ATEAC委员会。

委员会将会聚焦于Google内部涉及七原则的复杂事物，比如人脸识别，比如机器学习的公平性，为相关工作提供多样化的观点。

委员会设置8名成员，分别是：

Alessandro Acquisti，经济学家，隐私问题研究者，CMU信息技术与公共政策教授。

Bubacarr Bah，应用和计算数学专家，南非斯泰伦博斯大学数学科学系助理教授。

吴德恺，NLP、音乐技术和机器学习专家，港科大计算机科学与工程教授，伯克利国际计算机科学研究所杰出研究者。

Dyan Gibbens，工业工程和无人系统专家，Trumbull Unmanned公司CEO。

Joanna Bryson，心理学和AI伦理学专家，巴斯大学计算机系副教授，多家AI公司的顾问。

Kay Coles James，美国传统基金会主席，曾在美国各级政府担任公共政策专家。

Luciano Floridi，哲学家，数字伦理专家，牛津大学哲学和信息伦理教授，指导牛津互联网研究所的数字伦理实验室，艾伦图灵研究院数字伦理小组主席。

William Joseph Burns，外交政策专家，美国前副国务卿，卡内基国际和平基金会主席。

上面8位组成的首届委员会的任期是2019年，他们将会从4月开始，举行四次会议。

但是，这8个人里，有两个人遭到强烈反对，一个人直接退出，还有一个人看到名单就失望了。

首个退出者

还没等到第一次会议召开，名单公布没几天，就有人不干了：

上述名单中的头一位，Alessandro Acquisti在Twitter上公开表示退出ATEAC委员会，认为讨论AI伦理这种重大事项，这个机构不合适。

触犯众怒者

而另一边，Google员工们集结起来，反对委员会名单上的第六个人，Kay Coles James。

Google员工们认为，这个人反LGBTQ，反移民，这违背了Google的价值观。

她曾经在Twitter上公开说，数千名危险的犯罪、毒品走私犯和性奴贩子从边境进入。

还公开反对几部性别平权法案。

员工们说，有人认为把这个反LGBTQ、反移民的人放进委员会是为了思想的多样性，这纯粹是偷换概念，让这么一个人加入委员会，就是暗示Google在做决策的时候会考虑她的这种不正确的观点。

并且，让这样一个人加入ATEAC委员会，严重破坏了Google在AI道德和公平方面的立场。

AI对社会可能造成的伤害不是随机的，而是和我们历史上经历的那些歧视与不公如出一辙：

AI可能无法识别跨性别者，可能无法识别女性的声音，可能无法识别有色人种女性，AI可能被用于加强警方的监视，监控移民，制造自动化的武器。

社会的最边缘人群，面临着最大的风险。

因此，Kay Coles James，这个人的观点不仅违背了Google的价值观，并且，还违背了AI发展的理念：

AI应用中，正义应当是凌驾于利润之上的。

因此，ATEAC应当将弱势群体置于决策中心。如果委员会中没有挺LGBTQ的人，那就应当把这个反LGBTQ的人踢出去。

涉及军方者

而在这场联署运动之外，还有人反对名单上的第四个人，Dyan Gibbens，Trumbull Unmanned公司CEO。

这家公司的业务和无人机相关，主要客户是能源企业和政府，帮能源企业部署基于无人机的测控、工程、物流解决方案，参与了很多政府和国防项目，包括为美国空军提供无人机AI成像服务。

因此，不少AI专家也认为Google应该把这个做AI军事项目的人踢出群聊。

冷嘲热讽者

名单上的第五个人，Joanna Bryson，看到这份成员名单之后就呵呵了。

在转发了这条消息之后，有AI研究者在她的Twitter下面留言：你知道你要在这个委员会里跟反LGBT、反移民的人打交道么？

Joanna很淡定的说：信不信吧，这名单里有比那位更糟糕的人。

并且，她还透露这个为这个委员会工作是无偿的，并且自己只承诺工作一年。

不知道，她说的“更糟糕的人”是指的谁呢？

传送门

Google员工们的联署信

https://medium.com/@against.transphobia/googlers-against-transphobia-and-hate-b1b0a5dbf76

Google博客：成立先进技术外部咨询委员会（ATEAC）

https://www.blog.google/technology/ai/external-advisory-council-help-advance-responsible-development-ai/