美图秀秀又有P图黑科技：上GAN修老照片，消除人脸马赛克，在线就能体验
美图秀秀，现在P图新增最新黑科技。
乾明 发自 凹非寺
量子位 报道 | 公众号 QbitAI
美图秀秀，现在P图新增最新黑科技。
一言以蔽之，不服就GAN（生成对抗网络）。
不仅能够照片模糊、失焦等问题，还能去掉马赛克。
当然，也会顺手帮你美颜。
比如，这是一张20年前的图片，流传至今已经变得模糊了。P图后，效果是这样的：
图片是不模糊了，但是这个美颜效果……Emmm
甚至打上马赛克，它也能给你把皮肤“磨得”相对来说比较平整。
这就是美图最近推出的“老照片修复”功能，能够取得这样的效果，不仅仅只是靠传统P图算法，还用上了GAN。
用GAN来P图
美图的GAN，名为BeautyGAN，由美图影像实验室MTlab研发。
主要用于解决图片被压缩，或者夜拍、抓拍或是抖动造成的照片模糊或者失焦等问题。
修复一张照片通常分两步：人像修复和画质增强。
人像修复
人像修复基本上对人脸进行修复，包括人脸裁框和脸部生成修复。
实现人脸裁框方面，美图舍弃了以往单纯利用眼睛间距来裁切人脸的方式，而采用最小包围盒矩形框来裁切人脸，具体来说是这样的：
先用目前成熟的基于CNN的人脸检测和人脸对齐方法获得图像中的人脸点集，计算其外接矩形，向外拓展得到人脸的裁切矩形。
然后通过人脸的裁切矩形，获得人脸的旋转角度，从原图中裁取摆正后的人脸图像。
脸部修复，就是GAN发挥作用的地方。
美图介绍称，人脸生成存在五官变形、丢失遮挡(如手、刘海等)信息等，导致大部分深度学习生成的人脸和真实人脸存在较大差距，生成的脸一眼就能看出来是假的。
还好StyleGAN出现了，借用图像风格迁移能生成逼真人脸。但这仅仅只是生成，并不能实现一对一的人脸修复。
为了用StyleGAN，美图为其设计了一个编码器-解码器网络形式。
他们说，在这个过程中，如果想复用编码器中的featuremap，保留脸部的五官特征，避免发生变形，就需要将其和解码器对应大小的featuremap连接起来。
与以往采用加的连接形式，美图采用的是concat的方式，可保留编码器结构的部分featuremap，避免脸部严重变形或者丢失脸部遮挡(如手、刘海等)的信息。
实际的操作过程，是在网络中，输入一张s x s的图，经过五次下采样，得到一张大小s32 x s32的featuremap，再经5次上采样，生成一张大小为S x S的修复脸部图。
为了进一步增强BeautyGAN的生成能力，美图还借助了StyleGAN的训练方式。
首先，他们训练了解码器的生成能力，即输入一个大小为s32 x s32的随机向量，通过逐层的上采样加上concat的随机向量，最终生成一张s x s大小的人脸，确保生成的人脸看不出真假。
上述的解码器网络结构就是一个生成器，然后加上判别器，就构成了美图的BeautyGAN。
美图表示，直到解码器结构训练稳定具备生成人脸的能力后，才会与编码器结构合并，并进行整个网络结构的训练。
人像修复之后，就会进入下一阶段。
画质增强
美团表示，在这个过程中，分辨率比较高的图片在进行全图去噪等操作时，比较耗时间。
为了提高计算效率，他们将待修复图缩小到一定尺度，再进行分块、去噪等修复操作。然后通过guided-filter网络结构的画质增强方案恢复为原始分辨率。
之后，再利用超分辨率网络，最终使得画质整体变得更加清晰。
至此，整个图像的处理流程也就大致明了。
美图影像实验室MTlab
最后，简单介绍下这次技术背后的美图影像实验室MTlab。
美图影像实验室（MTlab）成立于2010年。2014年正式独立，目标是利用不断累计的图像数据，训练出更加精准的机器算法，利用算法提供更多服务。
目前，核心技术服务有人脸技术、3D技术、肢体检测、图像恢复、图像增强、增强现实、图像分割、影像生成、极致美颜、美妆技术、AI测肤等11项。
根据官方网站介绍，自2015年以来，美图影像实验室已经发表20多篇论文，其中不乏ICCV、ECCV、CVPR等计算机视觉领域的顶级学术会议。而且，在今年的CVPR和ICCV上的竞赛中，也都获得了有冠军。
基于MTlab，美图在2019年4月推出AI开放平台，对外进行解决方案输出，已经有用宝洁、屈臣氏、欧莱雅、丝芙兰、淘宝、百度等多家公司使用。
现在美图影像实验室MTlab的负责人是万鹏飞，博士毕业于香港科技大学ECE系，本科毕业于中国科学技术大学EEIS系。研究方向主要包括计算机视觉和计算成像。
One more thing…..
还是温馨提示一下吧。
美图这只AI，虽然能够去掉马赛克，但比较重的马赛克，效果并不太理想。
而且也只能去掉人脸上的马赛克，连沸羊羊就不行：
看，根本没啥效果……
所以，有大胆想法的小伙伴们，也不是想GAN就能GAN的。
- 滴滴副总裁叶杰平离职，他是出行巨头的AI掌门人，战胜Uber中国的关键科学家2020-09-07
- 董明珠的格力空调卖不动了：上半年营收同比腰斩，24年来首次被美的反超2020-09-01
- 手机配件市场上的“隐形巨头”：80后长沙夫妻创办，IPO首日市值逼近600亿2020-08-31
- 寒武纪半年报：每天亏百万，销售力度提升营收反降11%，上市高峰市值跌去40%2020-08-30
相关阅读
