坠毁的波音737 Max：一部人类无法控制的机器

李根 发自 凹非寺

量子位 报道 | 公众号 QbitAI

美国波音飞机的账，现在正被归到机器上。

事故信息已众所周知。3月10日，埃塞俄比亚航空公司的波音客机，在起飞6分钟后坠毁，机上149名乘客、8名机组成员，全部遇难。其中还包括8名中国公民。

当然，不仅因为空难原本就备受瞩目，而且围绕失事飞机机型，大家还迅速发现：这不是5个月前另一起印尼空难噩梦重演吗？

波音B-737-800MAX，交付使用刚满4个月的机型，成为众矢之的。

并且更关键的问题，被指向该机型新系统的设计：

波音公司为节省发动机油耗，隐蔽修改飞机操作系统，而且机器程序还能在飞行员操纵之上，“擅自”给出控制指令，导致最后灾难避无可避。

且在人与机器谁对操纵负有决定权的“搏斗”中，波音的设计似乎已倒向机器一方。

于是连美国总统特朗普，也参与到口诛推伐中。

事故完整线

当时上午8时38分，埃塞俄比亚航空这架编号“ET 302”飞机原计划由埃塞俄比亚首都亚的斯亚贝巴，飞往肯尼亚首都内罗毕。

那天天气状况良好，晴空朗日，没有任何值得提前预警的动态。

但就在起飞后6分钟左右，飞机失去联系，后坠毁于出发地约50公里外，俯冲着陆，机毁人亡。

更早之前，据称地面曾接到当事飞机机长问题报告，请求迫降，但旋即失去联系，最终没有避免悲剧发生。

现在，虽然飞机黑匣子已经找到，但具体失事相关原因还无结果，谁也不知道在生死之间，157名乘客经历了什么……

只是事故情况太可疑了。

除了天气状况良好，该航班机组信息也被进一步挖出——履历纪录都非常好啊。

曝光信息称：

失事班机的机师拥有极佳的飞行纪录，飞行时数超过8000小时。

失事飞机在出事之前，刚从南非飞回埃塞俄比亚，地停3小时后执行事故航班，失事前并没有发现技术问题。

而埃塞俄比亚航空，也有良好的飞行安全纪录。

在2018年的全球航空公司安全排名中，名位列第40，也是星空联盟成员。还曾于2013年和2016年荣获最佳非洲航空公司大奖，是非洲航空业的精英，未有过类似重大事故发生。

于是有心人发现，这机型怎么跟2018年10月29日印尼狮航的失事飞机一模一样？

再一查，果然。

不仅机型都是波音737 MAX 8，而且也都是交付不久的新飞机。

更主要的是，失事过程也惊人相似。

当时印尼狮航飞机国内固定航线飞行，在起飞后13分钟，于印尼以北海域坠毁，机上189人全部遇难。

而且事故原因，真与该型号飞机有关。

在黑匣子找到后的调查中，初步分析结果是：涉事飞机其中一个迎角感应器失灵，导致飞行姿态修正系统错误地判定飞机即将失速，从而控制飞机进入俯冲，而飞行员对此系统缺乏认知，最终飞机因未能及时改平而坠毁。

此次埃塞俄比亚飞机也类似。

央视援引Flightradar24数据显示，飞机的飞行数据记录了埃航飞机最后的轨迹，飞机在起飞后，曾经有过突然下降的迹象随后又有拉升，之后消失在追踪画面中。

而在之前印尼狮航的分析中，还披露了一个更具体的问题：

飞机信号系统接收到一个假信号，信号显示飞机“抬头”，所以控制系统持续给出了“低头”的指令。机组与控制系统搏斗很长时间，最终发生事故。

虽然埃航黑匣子调查结果还未公布，但不也发生了不正常的爬升与下降吗？

背后究竟是怎样的系统？

新功能MCAS

马上，就有知名航空网友出来科普。

微博大V@欢乐的云端之上，身份是中国南航机长，介绍了可能让飞机抬头-低头的系统原因所在。

他说大家讨论的系统，指的是波音737MAX的新功能MCAS。

全称：The Maneuvering Characteristics Augmentation System.

要点翻译即：机动特性增强系统。

△via: The Air Current

波音737MAX设计之初，波音公司为让新发动机更节油，从而安装位置只能更高更靠前，但也带来新问题——产生的抬头力矩有让飞机失速的风险。

于是就设计了MCAS，在系统探测到大迎角时，电脑会自动让飞机低头。

同时也存在隐患：在接收到错误信息时存在自动低头导致失控的隐患。

机长“欢乐的云端之上”猜测，这可能是关键原因。

还有机组人员进一步爆料，更恶劣的是，“MCAS在接收到错误的信号后会自动让飞机低头”的问题，没有被写进手册里，印尼狮航空难时，飞行员就不知道有这个设计。

所以当时的悲剧也与此相关。

在印尼狮航的波音客机出现防失速自动系统误判后，不断压低飞机的机鼻，飞行员则拚了命想将机鼻拉起来，等于出现“人机搏斗”的情况，飞机在11分钟内升降26次，但飞机仍推向无法挽回的飞行姿势，最终坠机。

△印尼狮航波音737MAX客机

归结来说，在波音737MAX客机中，人类飞行员面对一个“关键时刻难以控制的机器”。

需要说明的是，印尼狮航事故后，波音公司也意识到了问题。

在2018年11月，波音公司向全球737MAX机型的运营商发布公告，警告该系列飞机的飞行控制系统存在读数输出错误的问题，可能会导致飞机自行大角度俯冲并坠落。

声明称，波音公司已向相关航空公司发出警告：飞机俯冲的问题只会在手动飞行时发生，且错误地输出迎角传感器(AOA)，导致飞机倾斜10秒。

更进一步，飞行手册也得到修改，飞行员也被针对性及时培训。

万万没想到，不到5个月，另一起毁灭性空难就在同一机型上再次发生。

那么问题来了：如果说印尼狮航是飞行员不知情，那埃航噩梦重演，是否意味着在MCAS系统中，人类生死攸关的抉择，算法权重是优先于人的？

其实在MCAS系统设计中，是有相关机制考虑的，The Air Current有清楚介绍：

但至少从印尼狮航的事故中，看不出人类确实能“夺回”主动权。

机器决策 or 人类？

所以这样的人机讨论，并非毫无缘由。

外媒大西洋通讯社就直白表示，MCAS作为一个辅助人类的机器系统，却在生死攸关时，不仅人类难以完全接管，而且还有“人机搏斗”，最后飞行员也没能夺回控制权从而避免空难，需要深思。

这跟我们常说的自动驾驶汽车中辅助系统一样，决定权究竟在人还是机器？到底是完全信任机器还是确实有中间态可走？

不过大西洋通讯社可还没觉得MCAS能跟自动驾驶系统相提并论。

他们更倾向于把MCAS类比为汽车中的防抱死制动系统，该系统可以检测到驾驶员在制动器上鼓捣的时间过长，然后进行干预，以防止汽车进入打滑状态。

或者勉强能跟无人车中车道保持的控制模块类似。

但说一千道一万，大西洋通讯社的分析认定：完全把人类命运交给机器程序，是不行的呀。

甚至还举例说，1995年，哥伦比亚发生飞机撞山事件，核心原因是机组太信任飞机自动驾驶功能，以为已经进入自动驾驶系统设定的正确航路，最后导致机毁人亡。

而在已经过调查的印尼狮航分析中，飞行员一直想把机头拉回来，但机器系统不让，还不断推低它，最后还是自动化系统获胜……

所以大西洋通讯社分析师呼吁：让飞行员都熟知自动化系统原理显然是不可能的，那能不能关键时刻直接按掉开关？

就像AlphaGo比赛中，拔掉电源。

然而这似乎也不能解决所有问题，一方面是波音确实有类似设计，但在印尼狮航没起作用。

另外，这违背自动化系统被打造和应用的初衷。

比如有网友就指出：还记得马航370事件吗？或者更遥远一点的911灾难。

如果有一个处心积虑的人类试图控制飞机且做反人类之事，总开关一断，我们何以保证安全？

机器，至少是理性客观的，不会受人类情绪影响。

现在如果有机器导致的问题，那只能说明机器设计的还不够好，人类工程师还需更努力。

总之，信任机器或者相信族群同胞，天平两端都有人站。

特朗普键盘反对机器

不过知名网瘾老年、美国总统特朗普，观点就很明确。

他不认为越来越技术化的飞机是好事。

在埃航讨论中，特朗普连发两推。

首先表示现在太过信任电脑：

飞机现在变得越来越复杂。飞行员都不需要了，只需要MIT（麻省理工学院）的电脑科学家。我看过很多型号的飞机，都是这样。总是寻求不必要的更进一步，而老的和简单的往往更好。

紧接着补充：

有时需要争分夺秒做出决定，这时复杂性就造成了危险……我不知道你们怎么想，但我可不想让爱因斯坦来当我的飞行员。我想要的是伟大的专业飞行员，可以轻松和迅速地控制飞机！

怎么说呢？特朗普两条推特似乎相互矛盾。

因为更多MIT计算机科学家（先不管CMU和斯坦福有没有意见）进入航空领域，正是希望减少飞机操作的繁复性，从而降低对高门槛专业性的依赖啊。

而且特朗普也就键盘说说。

因为埃航事故发生后，全球大部分地区都纷纷宣布暂时停飞所有波音B-737-800MAX型号飞机，特别是中国，第一时间就宣布全部下线，等事故原因和分析结果出炉后再行讨论。

其后英国到澳大利亚，也纷纷宣布暂停波音737MAX机型运营。有的国家甚至不光要求本国航空公司停飞，还禁止相关型号的飞机飞越他们的领空。

然而美国至今不为所动。

美国西南航空（Southwest Airlines）还表示：不暂停该机型，也不会对该机型做免费改签。

一直被全球作为航空安全标准龙头的美国联邦航空管理局（FAA），依然坚持其安全认定，称对于波音B-737-800MAX，“根据现有信息，我们没有任何依据向运营方发布新的指导。”

波音公司则在周二重申：对737 Max的安全性“充满信心”。

然而大家对这家美国飞机制造商还依然“充满信心”吗？

波音737MAX机型遭全球23国禁飞，公司股价两日下跌11%，市值已蒸发266.5亿美元，约合人民币1789.28亿元。

按照波音737MAX官方1.2亿美元架的定价，两天损失了222架飞机。

然而逝去的生命，又如何用数据计算清楚？

世间除了生死，皆为小事。

希望类似悲剧，永远止步于此。

One more thing，也有评论将此次空难中被讨论的系统，跟机器学习、AI直接挂钩。

需要正名的是，这个锅，跟人工智能离太远了……AI，背不了。