美国最大警用摄像头厂商对人脸识别说No，称其会带来严重偏见
自家人断自家人后路？
铜灵 发自 凹非寺
量子位 出品 | 公众号 QbitAI
自家人断自家人后路？
全美最大的警用穿戴式摄像头的最大制造商Axon，已经正式宣布：
在技术改进之前，不会在其警用穿戴式摄像头中使用面部识别技术。
这家为47家美国最大的警察机构提供摄像设备及软件的公司，这一次竟然割爱，主动放弃了人脸识别这一在安防领域颇具潜力的技术。
Axon到的委员会给出的说法是，人脸识别技术不够可靠，还无法证明其使用的合理性。
到底怎么回事？
偏见+隐私
事件的导火索是一份长达28页的研究报告。
这是一份来自Axon内部人工智能道德委员会的报告，报告题目为First Report of the Axon AI & Policing Technology Ethics Board（译为《Axon AI &警务技术伦理委员会第一份报告》）。
报告表示，当前的面部识别技术，有“证据表明种族，种族，性别和其他身份群体的表现不平等且不可靠。”
报告进一步表示，与白人相比，这项技术对有色人种不那么友好，对女性比男性友好，对年轻人比老年人更友好。
Axon道德委员会成员、纽约大学法律学院Policing Project主任Barry Friedman表示，这项技术不够准确，表示在修复这些问题前，不会再考虑了。
即使可能需要很多年的时间。
除了技术本身的限制外，报告中还提到了人脸识别带来的隐私问题。
Axon在报告中表示：
技术的发展的速度远远快于立法机构和法院反应的速度。因此，我们认为，对于技术领导者来说，努力理解新技术的伦理、法律和社区含义至关重要，因为这些新技术太过新颖，无法被现有法律有效覆盖。
作为一家大型安防公司，Axon当然也想拥抱新兴的AI科技。
比如，美国多地警方的持有的AI执法记录仪，就可以分析摄像头捕捉的物体进行物体分类，对执法信息自动归档。
美国MuckRock的一篇博文显示，在今年年初，Axon开始向大规模在其设备中部署人工智能技术，Axon希望通过AI替代警察的文书和资料编辑等工作。
虽然Axon大力提倡AI，但是，对于人脸识别这项技术，他们显得甚是谨慎。
甚至于，还没有真正在其产品中部署这项技术，就已经宣布搁置了。
“解脱了”
这则消息让国外网友觉得大爽，网友突然兴奋了起来。
网友感慨，人脸识别带走了城市生活提供的最后一丝隐私：
那么现在，就是自由的感觉吧！
网友@ProfFerguson认为，Axon禁止人脸识别这件事代表着胜利，一是道德委员会的胜利，二是对于那些关注面部识别的人来说，这也算是个好
OpenAI政策方向的研究科学家@Miles_Brundage表示，看到Axon AI伦理委员会的第一份报告，感到非常兴奋，自己也是参与报告调研的一员。
他认为，可穿戴摄像头中的人脸识别技术目前还非常不成熟，预计还有很长的路要走。
有网友认为，Axon宣布暂时禁用也是为了把控自身风评，明知道技术不靠谱还去用，可能会产生坏的影响，因此谨慎行事。
有专家分析称，即使这个禁令禁止了人脸识别技术在警用摄像头中的应用，但若有人真想钻空子，也不能完全杜绝。
Axon发言人表示，执法官员可以下载第三方应用，比如亚马逊的Rekognition。但约翰杰伊刑事司法学院的副教授Piza却认为这样也不容易，还需要花钱额外购买另一项技术，最后操作的难度很大。
人脸识别禁令
一边是远高于人眼的识别效率，另一边却又陷入了隐私和偏见的泥潭，人脸识别的应用陷入了两难的境地。
对于美国来说，持保守观望状态的不止Axon。
上个月，史上首个人脸识别禁令出台，来自硅谷中心旧金山。旧金山监事会通过的禁令名为《停止秘密监察条例（Stop Secret Surveillance Ordinance ）》显示，禁止旧金山的政府机构使用人脸识别技术，哪怕是需要探案抓人的警察也不行。
条例中说，以人脸识别为代表的监视技术总是被用在压迫某些种族、宗教、性取向不同的特殊群体，人脸识别技术对公民权利和自由的危害大大超过所带来的好处。
因此，条例认定旧金山的政府部门无论是直接使用人脸识别技术，还是靠人脸识别技术获得某些信息，都是违法行为。
也就是说，不能直接在公共场所装人脸识别摄像头，也不能偷偷地用人脸识别技术来自动匹配嫌犯。
相比之下，国内的人脸识别技术部署进展就快得多了。
前有热心歌神张学友的全国巡演中，人脸识别AI领取抓捕逃犯五连杀成就。
后有北大弑母案疑犯，逃亡三年后，被重庆机场最新配置的人脸识别系统成功匹配。
技术在进步，法规在完善。关于人脸识别技术的落地之旅，其实才刚刚开始。
— 完 —
诚挚招聘
量子位正在招募编辑/记者，工作地点在北京中关村。期待有才气、有热情的同学加入我们！相关细节，请在量子位公众号(QbitAI)对话界面，回复“招聘”两个字。
量子位 QbitAI · 头条号签约作者
վ’ᴗ’ ի 追踪AI技术和产品新动态
- 微软公布19财年财报：净利润增长22%，云计算首超个人计算业务2019-07-19
- 腾讯云推出物联网边缘计算平台，具备五大特点，想攻克物联网落地难题2019-08-28
- DeepMind医疗业务几经动荡，现在团队并入Google2019-09-20
- 首例基因编辑干细胞治疗艾滋病：北大邓宏魁参与，达最佳治疗效果2019-09-14
相关阅读
高额奖池、院士评定，首届全球人工智能技术创新大赛开启征召
在赛题设置上，结合人工智能领域的技术发展，大赛设置医学影像报告异常检测、PANDA大场景多对象检测跟踪、小布助手对话短文本语义匹配三大赛题，邀请全球AI人才共同突破赛题中的关键技术瓶颈，推进下一代人工智能前瞻性研究发展。
