人在坐，AI在看

乾明 鱼羊 2019-09-03 13:05:40 来源：量子位

乾明 鱼羊 发自 凹非寺

量子位 报道 | 公众号 QbitAI

教室之内，你做什么AI都有记录？！

为此旷视不得不回应了。

昨天，一张带有“MEGVII旷视”图标的视频监控图像在社交网络上疯传。

图中显示，两名在教室中的女生身边，显示出了相应的课堂行为数据，比如趴桌子、玩手机、睡觉、听讲、阅读、举手等等。

伴随这张图，还有大量网友严厉的指责与质疑，认为这样的技术不应该出现在课堂中。加之变脸AI应用ZAO引发的关注，隐私话题再次被谈及。

不过相比起来，旷视对这些批评感觉有些冤，按照其官方回应，“这只是技术场景化概念演示”。

但引发的关注还在继续，更多教育场景内的AI应用，也引起前所未有的重新审视。

摄像头盯着你上课

事情跟刚刚进入的开学季有关。

九月新学期开始后，不少学生就发现，自己熟悉的校园中出现了人脸识别系统。

比如位于南京的中国药科大学，在校门、图书馆和宿舍都安装了人脸识别门禁。

对于智能门禁，学生们的接受度倒是很高。有人认为这套系统识别准确，速度也很快；有人表示不再担心忘带校园卡，确实很方便。

学校保卫处负责人也表示，比起从前实行的校园卡刷卡通行，人脸识别系统的引入解决了过去师生忘带校园卡的麻烦，也解决了代刷卡、复制卡等校园安保问题。

但这套来自“刷脸之王”旷视Face++的系统，可能不止是人脸识别刷门禁。

在梨视频的采访中，校方介绍，这套系统不仅能对进入教室的学生进行全程人脸识别，还能监测到学生抬头低头，是否玩手机，是否发呆等行为细节。

关于这类系统，旷视也早有过相关介绍，目标所指是辅助教育：

在课堂教学评价系统中，旷视科技将自主研发的人脸识别、行为识别、表情识别等技术，集成在考勤及行为分析摄像机MegEye-C3V-920和行为分析服务器中。

通过对课堂视频数据进行实时的结构化分析，反馈学生行为、表情、专注度、前排上座率等多维度课堂数据，辅助教学评估评价。

没想到，竟然在社交媒体上引发大讨论。

旷视在官方回应中说，自己在教育领域的产品专注于保护孩子在校园的安全。

相应的解决方案，可以协助学校管理人员提升效率并保障学生安全，主要用于智能校门、教室门及宿舍的出入，方便学生安全出入校园。

至于引发讨论的课堂行为分析图片，是技术场景化概念演示。

但根据校方说法，相关系统已在两间教室中进行试点，如果效果好，会进行全校推广。

其实，这样的技术和应用并不算稀奇。有网友表示，这种校园分析的新闻去年前年就有了，现在竟然来了个大爆发……而且成为热搜事件，着实意料之外。

教育场景正成为AI落地跑马场

但不容忽视的事实是，这几年来AI赋能落地千行百业的声势越来越大，在这样的大趋势面前，教育场景可以说是蓝海一片。

《2019年中国智慧教育行业市场发展及趋势研究报告》数据显示，2010-2018年中国智慧教育行业规模持续扩大，增速保持在10%以上，2018年市场规模超过5000亿元。

众多AI技术公司、教育场景公司，都纷纷加入战局，加入新红利的争夺中。

而且作为AI领域最为成熟的技术方向，各种计算机视觉/人脸识别方案早已见怪不怪。在校园中采用人脸识别技术，也都已经不稀罕。

但没有哪家公司的方案，止步于门闸刷脸。

闸机只是切入点，更多方案提供商希望的是用AI来重构整个教育全流程，课堂自然是一个能够大展拳脚的地方。

当然，水大鱼大，竞争者也多。提供这样方案的，远不止旷视一家。

打开搜索引擎搜索“课堂人脸识别”，能够得到621万条结果，各种大大小小的公司，都有相应方案。

其中甚至不乏更为惊人的“黑科技”方案。

比如掌门1对1，已经与商汤达成战略合作，在情绪智能识别等领域进行研究，目的就是通过在线辅导的情绪识别，看学生是否处于认真上课的状态。

创始人兼CEO张翼还分享过用“脑电波”的设想：

脑机交互的可穿戴智能设备可以实时监测学生的脑电波数据，通过脑电动态数据采集分析，对学生在学习过程中进行情绪识别、疲劳度识别，分析判断学生在学习过程中的精神状态、思维活跃度和学习专注力。

此外，还有英特尔、K12在线教育机构海风教育，少儿英语教育结构VIPKID等等都有相应系统与解决方案提供。

总体来说，之前“一块屏教育”的故事延续，就是AI可以帮助教学过程实现数据化、机器学习化。

而且谈到AI落地传统学校，也不是只有这次引发关注的中国药科大学。

随手一查，案例新闻非常丰富：

比如2018年5月，浙江省重点杭州第十一中学（阿里云之父王坚母校），将名为“智慧课堂行为管理系统”的科技应用于课堂教学。

新京报报道中表示，这一系统也可以对课堂上学生的行为进行分析，并对异常行为实时反馈，工作流程是这样的：

系统每隔30秒会进行一次扫描，针对学生们阅读、举手、书写、起立、听讲、趴桌子等6种行为，再结合面部表情是高兴、伤心，还是愤怒、反感，分析出学生们在课堂上的状态。

目前仅趴桌子一项为负分行为。若此类不专注行为达到一定分值，系统就会向显示屏推送提醒，任课教师可根据提醒进行教学管理，而显示屏仅任课教师可见。

不过，校方也给出了回应，在系统设计伊始，便考虑到了隐私问题，系统只采集代码，并非学生面部影像。

此外借AI落地之名进入校园，也不仅仅只是基于人脸识别的解决方案，还有基于各种传感器的“智慧校服”。

去年12月底，贵州10多所中小学的学生穿上“智能校服”引起大量关注。

供应商介绍称，这套智能校服，能精准、及时记录他们的出勤和活动。只要身着这套校服，学生进出校门的准确时间就会自动发送给学校老师和家长。

而且如果未经许可出校门，那也会激活自动语音报警器。校服还会配合校门口的智能摄像头一起使用，假如学生互换校服，警报也会响起。甚至它也能发送准确的具体位置，帮助学校和家长快速定位。

但类似方案，也不是中国专利，全球同此凉热。

早在2012年3月份，巴西也推出了类似智能校服，引发了媒体广泛关注。

巴西维多利亚达孔基斯塔市最早推出一款智能T恤，这条T恤内置了芯片，可以让家长知道孩子究竟有没有逃课了。

还有瑞典（真欧洲国家）一中学，使用人脸识别等技术对22名学生进行了为期三周的跟踪调查，记录下他们每次进入教室的情况。

毫无疑问，这样的人工智能入校、AI+教育，也同样引起了争议与广泛的讨论。

争议四起：隐私何在？

核心热议焦点，依然是AI技术落地中的技术。

有抖机灵的网友说，学霸们研发的AI，正在不断压缩学渣摸鱼的空间。

但更多网友，关注的还是技术价值观的话题：技术本身无罪，但这并不代表技术的落地，不需要多方面权衡考量。

而且日常工作学习为摄像头所监控，监控背后的AI还要分析量化你的一举一动，未免让人有些毛骨悚然。

另外在这场突然掀起的风暴之中，AI落地带来的“隐私”边界，也令人深思。

有微博网友认为，这种无死角全过程的AI监控，是在扼杀情感。

有人表示绝对不会让自己的孩子处在这种环境之中。

也有人指出，这是对教育的本末倒置，学校应用这种技术，不是在培养人，而是在培养升学率。

“技术再好，用的地方不对有什么意义呢？”

这种评论也代表了很多吃瓜网友的心声。就像《黑镜》中描述的未来科技，诞生之初哪有正邪之分呢？

除了隐私、自由，教育场景中令人担心的还有数据安全问题。

2018年8月的一则判决文书中，就披露了一起非法出售学生信息的案例。

当时负责管理维护安徽全省学籍管理系统的张某，利用职务之便，以每条1毛钱的价格，出售了4万名学生的隐私信息。据新浪财经报道，张某任职的公司正是科大讯飞。

前沿技术的发展，有时候远超公众的想象。当一项技术真正走向落地，就不再是小众的狂欢，而要接受大众的审视。

如何选择更合适的技术落地场景，如何兼顾科技与社会人文，或许是AI赋能，必须要去面对和思考的问题。

国内国外，也开始越来越多传递出这样的风向。

比如谷歌开始越来越多科普利于隐私的“联邦学习”，腾讯在创办20周年时将“科技向善”写入公司使命和愿景，而即将IPO上市的旷视实际也在招股书中明确建立“AI道德委员会”。

掌舵微软AI的沈向洋还呼吁，应该每一项AI技术和产品应用前，都要通过伦理道德委员会审查。

虽然人类在发明汽车80年后才发明安全带，但AI时代里，我们需要现在就为AI技术系上安全带了。

总而言之，AI和隐私安全的话题，一切还不会就此终止，还会有更多事件、更多应用被放在聚光灯下审视。

你觉得呢？