NeurIPS今年将加入道德评审，论文作者还需声明财务资助，获正面评价才能接收

晓查 2020-02-25 09:52:57 来源：量子位

晓查发自凹非寺
量子位报道 | 公众号 QbitAI

AI研究的道德问题越来越突显。

上周，YOLO之父Redmon宣布退出CV研究，因为不想看到自己研发的技术被用于军事和隐私窥探。

有人说，Redmon很难以一己之力改变学术界。然而事实上，Redmon的做法正是因为学术界开始重视AI的道德伦理，他这一激进的决定来自于与其他学者之间的争论。

全球最大的AI学术会议NeurIPS组织方在最新公告中表示，今年向大会提交论文的学者必须陈述其研究潜在的更广泛的影响，以及自己的研究是否存在任何财务利益冲突。

社会影响力声明将要求AI研究人员说明其工作的正面和负面潜在结果，而财务披露要求阐明行业和大型科技公司在该领域中发挥的作用，以及与提交的研究直接相关的潜在利益冲突。

NeurIPS是首批制定该要求的顶级AI学术会议，不知其他学术会议是否会跟进。

NeurIPS 2020通讯主席Michael Littman表示，每篇论文都会发表“道德方面和未来社会后果”的声明。

但是声明只会出现在最初发表的论文版本中，因此不会影响评审过程的双盲性质。具有潜在道德问题的研究将增加一轮评审程序。

评审员和领域主席的评估将仅基于技术。但是如果将某篇论文标记为潜在的道德问题，则该论文将被发送给另一组具有道德和机器学习专长的审稿人。

这些论文的最终接受也取决于第二批审稿人的正面评价。

大会要求的财务披露，要求研究者公布受捐助的资金、数据集、计算硬件、云计算服务等。受科技公司资助的AI研究者将收到该条款的影响。

NeurIPS的新要求也令一些学者感到不满。CIFAR成员Roger Grosse说，新政策将“导致重要问题的琐碎化”，希望将这类问题交给注重伦理或社会影响的研究者。

作为回应，目标识别算法YOLO发明者Joseph Redmon直接宣布退出CV界，因为担心该技术对世界的潜在危险。

实际上去年的NeurIPS就已经开始考虑AI的社会影响，大会组织者曾建议今年论文作者提交计算过程的碳排放，即训练模型对气候变化的影响，不过今年大会并没有加入这一条。

2020年的NeurIPS仍将在加拿大温哥华举行，时间为12月6日至12日。今年论文提交的截止日期为5月12日。

参考资料：

NeurIPS requires AI researchers to account for societal impact and financial conflicts of interest

https://nips.cc/Conferences/2020/CallForPapers