看下巴识心情,这个AI项链挂胸前也能识别面部表情
还不会泄露面部信息隐私
兴坤 发自 凹非寺
量子位 报道 | 公众号 QbitAI
瞄一瞄你的下巴,就知道你有没有在难过。
这个温馨的场景对应的不是窝在怀里的小猫咪,而是……
Neck Face,一款用于监控情绪的智能工具。
![看下巴识心情,这个AI项链挂胸前也能识别面部表情](https://p1-tt.byteimg.com/origin/pgc-image/23c21ed0506248f0b007b5c877f2277e.png?from=pc)
它被设计成项链及颈带样式,AI只需要看到使用者的下巴,就可以获取面部表情数据。
这款设备的面部识别原理,不仅打破了必须在正面放置摄像头的局限,而且还能做到在运动过程中持续捕捉表情信息。
智能项链Neck Face
项链式仪器包含一组Neck Face,由红外摄像头OV5647、近红外LED和红外带通滤波器组成,佩戴时位于下巴正下方;颈带式仪器包含两组,佩戴时分别位于两侧锁骨位置。
![看下巴识心情,这个AI项链挂胸前也能识别面部表情](https://p3-tt.byteimg.com/origin/pgc-image/aee967d2ecf144d39147548c95f36b65.png?from=pc)
摄像头位置这么靠下,能看到我们的表情吗?
如此低的机位,自然看不到完整的面部表情,只能获得包含下巴部分下半张脸的轮廓图像。
AI通过对这部分图像的信息提取,以算法推测出完整面部表情。
当我们做面部表情时,面部肌肉会拉伸和收缩,推拉皮肤影响附近面部肌肉的张力,这种效果会导致脸颊轮廓发生变化。
Neck Face从颈部和下巴下方角度,用红外相机记录面部肌肉运动,以及所引起的面部轮廓变化。
获得脸部轮廓红外图像后,通过卷积神经网络帮助将二维图像轮廓重构为完整信息,并利用计算机视觉和深度学习模型,找到颈部和下巴红外图像与完整面部的联系。
结合ARKit,从深度相机中提取了52个混合形状参数(blend-shape),以及头部偏转角度数据,重构出完整的表情。
![看下巴识心情,这个AI项链挂胸前也能识别面部表情](https://p1-tt.byteimg.com/origin/pgc-image/13ca8537bc7c4f33bf412c591c397b44.png?from=pc)
经过这样的处理过程,能够从下巴角度图像获得完整面部表情。并且可以在佩戴过程中,连续记录表情变化。
为验证这款设备监测结果准不准确,研究人员使用了苹果手机深度相机作对比分析。
![看下巴识心情,这个AI项链挂胸前也能识别面部表情](https://p1-tt.byteimg.com/origin/pgc-image/caaf45115ccb4c4a9c025768b8e08a0c.png?from=pc)
测试者被要求在静坐和行走过程做出八种不同的表情,并且包含了上下左右四个方向转动头部的过程。
对比各种情况下手机和可穿戴仪器表情识别的差异,计算所得出的混合形状参数(分值0-1000)平均绝对误差。
通过对测试结果总结分析,可穿戴表情监测仪器误差在20-35之间。且可识别头部转动角度,角度误差在2-4.5度。
![看下巴识心情,这个AI项链挂胸前也能识别面部表情](https://p3-tt.byteimg.com/origin/pgc-image/74f884c6fc034b57949a79920e958ef4.png?from=pc)
△左侧为手机摄像头识别处理的结果,右侧为NeckFace面部重建的结果。
两种设计相比,颈带式设备性能优于项链式,原因可能在于两侧摄像头能够捕获更多信息。
应用优势
现代人对自身健康越来越重视,不仅是身体机能的健康,心理健康也逐渐得到了更多关注。
以科学的方法对情绪进行监控,可以更好地掌握自身状况,及时做出调整或治疗,避免影响到身体机能。
记录情绪及心理状态建立起数据库,还可以方便个体追踪自身行为,有利于就医等社会活动。
提到大数据,一定会有人担心隐私泄漏的问题,由于Neck Face都是从头部下方对面部表情进行检测,而仅仅通过下半张脸无法识别到用户全部面部信息。
另外,Neck Face是红外成像,对环境不作识别,可以很好地隐藏环境信息。
对Neck Face的测试过程中也提到了,设备可以在行走中保持工作,这就大大解放了远程办公或视频会议时对使用者的局限,可以更自由地参与线上讨论。
研究团队
本研究主要由北京大学学生陈拓潮,麦吉尔大学学生Yaxuan Li完成,参与单位还有康奈尔大学SciFi实验室,康奈尔信息科学学院研究人员等。
康奈尔大学计算机与信息科学学院Cheng Zhang教授研发出可穿戴传感器C-Face。在此基础上,陈拓潮等人做出改进,开发出这款更方便穿戴,性能更好的Neck Face。
△左侧为使用者佩戴C-Face,右侧为3D模型反馈的面部表情。
参考文献
https://dl.acm.org/doi/10.1145/3463511
参考链接
https://news.cornell.edu/stories/2021/08/smart-necklace-could-track-your-detailed-facial-expressions?fbclid=IwAR1RXF6iBQ3SkQn3cJUjFkGYEJktitIeHnT2B6x1aT7nW4bfP3heUqMuOlo
- AI落地新战场,云厂商开卷MaaS:大模型即服务,华为给所有人发船票了2024-09-05
- 阿里通义上新PPT创作!PC端“效率”功能三合一,听读写一站搞定2024-09-01
- 为产业数字化注入“智”能量 看腾讯全球实践2024-09-01
- 纯数学方法证明量子纠缠会突然消失!MIT科学家无心插柳提供论证2024-09-01