最懂AI的诺奖经济学得主去世，大模型关键技术受他研究启发

鱼羊 克雷西 发自 凹非寺

量子位 | 公众号 QbitAI

一位90岁巨擘的逝世，正在牵动整个科技圈的关注。

正如YC创始人Paul Graham所说：

我关注的每一个人，都在对丹尼尔·卡尼曼表达敬意。

关注大模型技术的人，应该都对这位以心理学家身份获得诺贝尔经济学奖的传奇人物并不陌生——

他在著作《思考，快与慢》中提出的“人类思维的快慢两个系统”，深刻地影响了思维链、大模型训练和微调等关键技术的发展。

特斯拉前AI总监、OpenAI创始成员Karpathy曾在演讲中指出，卡尼曼的双系统理论，正是思维链背后核心利用的原理。

除了AI，卡尼曼对人类判断的见解，还影响了经济学、金融、医学等广泛的学科。

卡尼曼生前工作的普林斯顿大学校长评价称：

丹尼尔·卡尼曼改变了我们理解理性及其局限性的方式。

而他90年的人生，也如同他所提出的的理论一样，充满了传奇。

“人们会习惯由机器做出判断”

尽管并未直接从事AI研究，卡尼曼的名字却随着大模型热潮在AI领域被反复提及。

他在畅销书《思考，快与慢》中，提出了思维的二元性，认为人类的认知系统包括System1和System2两个部分。

System1主要靠直觉，而System2是逻辑分析系统。通俗来说，System1是一个快速自动生成的过程，而System2是经过深思熟虑的部分。

这一理论对之后的大模型的训练和微调，以及“思维链”方式都大有启发。

特斯拉前AI总监、OpenAI创始成员Andrej Karpathy就在一场演讲中指出，要想让自然语言处理中Transformer的表现更好，需要让它一步一步地处理信息，而不能直接抛给它一个非常复杂的问题。

比如即使是很简单的数学题，如果要求大模型一步到位地给出答案，也很难得到正确结果。

UW-Madison的助理教授Kangwook Lee分享了一道题，定义了一种“Q运算”，规则是aQb=a+b-1（未直接在prompt中说明），要求大模型仿照规律进行计算，结果GPT4、Claude和Gemini这些最先进的大模型无一答对。

只有让模型一步步推理，甚至需要不断地给出引导，才能让它输出正确结果。

像这样“一步一步”的处理方式是思维链的核心，而背后所利用的原理，正是卡尼曼提出的双系统理论。

除了被广泛引用，卡尼曼本人从本世纪第一波AI浪潮开始，就对人工智能技术保持着高度关注。

他曾在2017年的一场演讲中公开发表观点，认为AI终有一天会代替人们所做的一切事情。

而在ChatGPT问世后，卡尼曼再次对AI做出了相似的判断：

我相信最终（AI）算法会比人类更正确，最终人们会信任算法。这一切都需要时间，但我不认为人们不可能信任算法。

因为在他看来，即使是简单的变量组合，算法的“噪声”也肯定要比人类少得多。

所谓“噪声”，是卡尼曼在Noise: A Flaw in Human Judgment（噪声：人类判断力的缺陷）一书中定义的，他将“噪声”解释为导致人类针对相同事件做出不同判断的原因。

举个例子，两位放射科医生对同一张X光片，可能得出不同的诊断结果，导致两人判断不同的原因，这就是卡尼曼认为的“噪声”。

在后来的一次访谈中，卡尼面将“噪音”的概念进一步明确为“判断错误中不希望出现的变化”。

但在肯定AI将会非常有帮助的同时，卡尼曼也毫不掩饰地表达了对AI可能对人类产生的影响的担忧。

在被问及是否担心像ChatGPT这样的AI的发展会不受人类限制时，他毫不犹豫地给出了肯定的答复：

我认为关注这种情况的每个人都会感到担忧，因为从短期来看，它的使用方式可能会颠覆新闻业，因为很难区分真假。

这只是可能出现的问题之一，像这样的问题还有很多。从长远来看，拥有卓越的智力是一个巨大的威胁。

所以，我想很多人都很关心，我也一样。

行为经济学的奠基人

获得了诺贝尔经济学奖的卡尼曼，本不是经济学家，而是一名心理学家，准确说是首位获得诺贝尔经济学奖的心理学家。

获奖的理由是，卡尼曼与他的同事兼好友阿莫斯·特沃斯基（Amos Tversky）合作，将认知心理学应用到了经济分析当中，为新的研究领域——行为经济学奠定了基础。

颁奖词中写到，“他的工作启发了新一代经济学和金融学研究人员，利用认知心理学对人类内在动机的洞察来丰富经济理论。”

△卡尼曼（左）接受颁奖，来源：诺贝尔奖官网

其中涉及了他和特沃斯基提出的前景理论（Prospect Theory，又称展望理论），从人的心理特质、行为特征揭示了影响选择行为的非理性因素。

通过一系列的实验观测，他们发现人的决策选择取决于结果与预期的差距，而非结果本身。

对于高于预期的收益型结果，人们往往表现出风险厌恶，偏好确定的小收益，比如在100%概率获得1000元和50%概率获得2000元之间，虽然二者的数学期望相同，但更多人倾向于选择前者。

而对于低于预期的损失型结果，人们反而会为了避免确定的损失而表现出“风险偏好”，比如在100%损失1000元和51%概率损失2000元之间，尽管后者损失的数学期望更大，却仍然被更多人所选择。

正是这一理论改变了传统经济学关于人类行为的假设，而传统经济学中认为人们都是理性的。

卡尼曼的理论更准确地描述和预测人类在各种经济环境下的实际行为，影响了金融市场分析、消费者行为研究、公共政策制定等多个领域。

除了为经济学带来全新的视角，卡尼曼一场名为“经验与记忆之谜”的TED演讲也吸引了不少人的目光，在全球一共获得了数百万次观看。

演讲中，卡尼曼提出了人类的“两种自我”——“经验自我”和“记忆自我”，经验自我活在当下，感受和体验每一个瞬间，而记忆自我则负责记录和讲述生活故事。两者的不同在于处理时间的方式和对故事的构建。

进一步地，卡尼曼在此之上探讨了快乐的本质和人们对快乐的不同认知方式。他指出，人们对快乐的理解仍存在一些认知上的陷阱，这些陷阱增加了理解快乐本质的难度。

对于快乐而言，经验自我记录了我们生活中具体时刻的体验，记忆自我则决定了我们对自己生活的整体满意度。

卡尼曼指出，经验自我和记忆自我之间不可避免地存在冲突，而把握好这两种自我系，有助于我们更好地认识自己的幸福感，并在追求快乐时做出更明智的选择。

以上种种只是卡尼曼诸多理论中的一部分，却足以体现他对于人的深刻理解与认识，这或许与他丰富的成长经历密切相关。

“人是无限复杂和有趣的”

卡尼曼1934年出生在现在的以色列特拉维夫，童年时光则是在法国巴黎度过的。

他与心理学的结缘，从这段人生历程开始就已经埋下伏笔：

1940年，纳粹德国占领巴黎，卡尼曼一家人当时就生活在那里。

身为犹太人，卡尼曼一家被要求佩戴六芒星标志，并且遵守下午6点的宵禁。

有一次，小卡尼曼跟朋友玩得太晚，回家时街道上已经空空荡荡。他把毛衣翻过来藏住了星星标志，但还是倒霉地遇上了德国党卫军士兵，并且就在他试图快点溜走时，对方叫住了他。

令小卡尼曼意外的是，这名德国士兵对他表现得非常亲切，不仅拥抱了他，还用德语温和地跟他说了些话。士兵对小卡尼曼展示了钱包里一张小男孩的照片，还给了他一些钱。

小卡尼曼至此更加确信了母亲对他的教导：

人是无限复杂和有趣的。

1948年，卡尼曼和他的家人一起搬回了由英国暂时管理的巴勒斯坦。此后，十几岁的卡尼曼表现出了与同龄人的一些不同。

比如，他进入的是一所宗教学校，但在15岁的某一天，走在回家的路上，他突然“福至心灵”：

我突然意识到，我没办法相信上帝会关心我是否打飞机。

如果我无法想象上帝关心我，那么我们就彼此毫无关联，他是否存在也并不重要。从那一刻起，我成为了一个无神论者。

在后来的访谈中，卡尼曼对此进一步解释说，在他十几岁的这个阶段，他发现相比于“上帝是否存在”，他对“人们相信上帝的原因”更感兴趣。从那时起，他已经决心要投身心理学研究。

△Midjourney生成

在耶路撒冷希伯来大学，卡尼曼用两年的时间获得了自己的第一个学士学位，主修心理学，辅修数学。

他对自己感兴趣的事情热情非常高：曾经顶着41℃的高烧去听神经生理学教授耶沙亚胡·莱博维兹的讲座。

毕业后，他被征召入伍。后于1958年赴美国加州大学伯克利分校攻读心理学博士学位。

在伯克利，他师从心理语言学家、女权主义先驱Susan Ervin，研究语义差异中形容词之间的关系，这使他能够“从事最喜欢的两项工作：复杂相关结构的分析和FORTRAN编程”。

1961年，卡尼曼进入希伯来大学担任心理学讲师，正式开启学术生涯。他和特沃斯基的长期合作也是在耶路撒冷启动的。

有人用约翰·列侬和保罗·麦卡特尼来类比卡尼曼和特沃斯基的关系，对此，卡尼曼本人的评价是，“这是一种恭维”。

实际上，卡尼曼和特沃斯基的性格相差甚远：

特沃斯基永远是party里最亮的那个仔，而卡尼曼从学生时代就很“社恐”，这种嗨皮的场合更是连去都不去。

特沃斯基的办公桌上只放一支自动铅笔，而卡尼曼的办公室堆满了他没读完的书籍和论文。

但卡尼曼说，他俩总是“有共同的想法”。

这种思维方式的共鸣，使他们的私人关系也非常密切。甚至在文章和著作署名这种事上，他俩都能用抛硬币来决定。

阿莫斯·特沃斯基在1996年去世，没有赶上成果获颁诺贝尔奖的时候。

2022年，在一次采访中，当卡尼曼被问到“你每天都会想他吗？”

尽管在20世纪80年代后，两人的合作已逐渐减少，但卡尼曼的回答是，“是的”。

2018年，卡尼曼的妻子、认知心理学家安妮·特雷斯曼去世。两年后，他从伯克利搬到了纽约，和特沃斯基的遗孀芭芭拉·特沃斯基住在一起。

One More Thing

说起来，卡尼曼的学术成果，或许能解释一个许多人疑惑的问题：

为什么迪士尼这样的地方大排长队，还是有很多人愿意二刷三刷甚至N刷？

因为，“有时，记忆中的经历比经历本身更重要”，而记忆中的经历很大程度上是由最高峰时刻及其结束决定的。

迪士尼花那么多钱在最后时刻进行烟花表演，可不是白放的。

参考链接：
[1]https://www.princeton.edu/news/2024/03/28/daniel-kahneman-pioneering-behavioral-psychologist-nobel-laureate-and-giant-field
[2]https://www.washingtonpost.com/obituaries/2024/03/27/daniel-kahneman-dead/
[3]https://en.wikipedia.org/wiki/Daniel_Kahneman
[4]https://www.nobelprize.org/prizes/economic-sciences/2002/kahneman/biographical/