ChatGPT变懒原因:正在给自己放寒假!网友已测出🧐
网友:周末可能比周一更懒
西风 发自 凹非寺
量子位 | 公众号 QbitAI
ChatGPT近期偷懒,有了一种听起来很离谱的解释:
模仿人类,自己给自己放寒假了~
![ChatGPT变懒原因:正在给自己放寒假!网友已测出🧐](/wp-content/uploads/replace/cbb76f8bfc553121a021d278ff6a4ea3.jpeg)
有测试为证,网友@Rob Lynch用GTP-4 turbo API设置两个系统提示:
一个告诉它现在是5月,另一个告诉它现在是12月。
然后使用完全相同的提示词要求GTP-4“完成一个机器学习相关的编码任务”。
在这两种不同时间设定下对477个回复进行统计,结果12月的输出平均少了200字符:
- 系统提示为5月,生成的文本平均长度是4298字符。
- 系统提示为12月,生成的文本平均长度是4086字符。
![ChatGPT变懒原因:正在给自己放寒假!网友已测出🧐](/wp-content/uploads/replace/2abe418e299e22c80ee976a44ed8a64a.jpeg)
这里还有相关性分析,t检验结果p值<2.28e-07(p值小于0.05表示该自变量对因变量解释性很强)。
![ChatGPT变懒原因:正在给自己放寒假!网友已测出🧐](/wp-content/uploads/replace/e612fdd7f16ed42bd3aec828808f94f3.gif)
有人进一步添枝加叶,让ChatGPT对12个月份的生产力做了个排名。
结果ChatGPT确实认为12月是生产力最低的月份,原因是“由于假期和年终总结”。
![ChatGPT变懒原因:正在给自己放寒假!网友已测出🧐](/wp-content/uploads/replace/1549b269ad9ebd9f8391b7e682c43129.png)
嚯,事情好像变得更有意思了。虽然目前这事儿还没有一个定论,但网友对此依旧兴趣高涨,当即“头脑风暴”了起来。
有人猜想,ChatGPT可能是从训练数据中学到了人类通常在12月会放慢节奏,所以给自己放假了。
![ChatGPT变懒原因:正在给自己放寒假!网友已测出🧐](/wp-content/uploads/replace/1624d3ca08d62919a2f47baf427e4a4f.png)
还有人分析,假设ChatGPT生产力降低真的是因为“放假”,那它在周末也可能会更懒散,而周一则更聪明。
特殊节假日也要拿来研究一下,专属梗图这不就来了:
![ChatGPT变懒原因:正在给自己放寒假!网友已测出🧐](/wp-content/uploads/replace/83d2d7a646c25801b317fb622163dc38.png)
真的是因为「12月」?
ChatGPT变懒这事大伙已经讨论近一个月了。很多网友反馈,自11月6日OpenAI开发者日更新后,GPT-4就有了偷懒的毛病,尤其是写代码。
就在前几天,OpenAI官方也已承认ChatGPT变懒是真的,但也不确定到底是因为啥。
只给了一个这样婶儿的回应:
自11月11日以来没有更新过模型,所以这当然不是故意造成的。
模型行为可能是不可预测的,我们正在调查准备修复它。
![ChatGPT变懒原因:正在给自己放寒假!网友已测出🧐](/wp-content/uploads/replace/32183d8fc96bb9818bd4e7ea0baf3994.png)
当时就有网友猜测GPT-4可能是受季节影响:
模型会不会是季节性emo了?像是模仿人类一样受到季节变化的影响,特别是在冬天,毕竟约90%的人都在北半球。
![ChatGPT变懒原因:正在给自己放寒假!网友已测出🧐](/wp-content/uploads/replace/3a38aced32df0cf3c21e4e4576b8bfc5.png)
看到这条评论,很多人第一反应是“兄弟,你怕不是在跟我开玩笑”:
![ChatGPT变懒原因:正在给自己放寒假!网友已测出🧐](/wp-content/uploads/replace/b239657a763af8f517d0de50098a4a38.png)
可细细想来,也不是没有道理。
毕竟如果要求ChatGPT说出自己的系统提示词,里面确实会有当前日期。
![ChatGPT变懒原因:正在给自己放寒假!网友已测出🧐](/wp-content/uploads/replace/cd9c8ab803c969c216d12d8a190a0731.jpeg)
于是就有了开头的一幕,与其猜测,不如直接来做测试。
Rob Lynch做完测试后,把结果都po了出来,并表示自己也不是统计学家,让大伙一起看看有没有啥问题。
![ChatGPT变懒原因:正在给自己放寒假!网友已测出🧐](/wp-content/uploads/replace/65709fa73666f1d7930e87e220a0eb13.png)
![ChatGPT变懒原因:正在给自己放寒假!网友已测出🧐](/wp-content/uploads/replace/d3e3a0006acb4ff37efe385e7646340a.png)
他原本还想来个逐月比较分析,但接下来需要更多样本(n),考虑到成本就没有接着做测试(复现一次运行成本要28美元)。
于是乎,Rob Lynch公开了代码,让大伙都来试试(手动狗头)。
![ChatGPT变懒原因:正在给自己放寒假!网友已测出🧐](/wp-content/uploads/replace/2c0bd8881607377279b7f60f41d20b78.png)
持续关注GPT-4变懒事件的沃顿商学院教授Ethan Mollick随即表示“收到”:
来人测测Mistral,看看它是否在8月份罢工,Yi-34B-200K也不要放过,看它2月份是不是表现得特别好。
![ChatGPT变懒原因:正在给自己放寒假!网友已测出🧐](/wp-content/uploads/replace/72d7720398d761771a8b828ac6a26261.png)
为啥大伙儿一开始会觉得“放假”这个理由有点离谱,而现在却开始研究了起来?
可能不止是因为Rob Lynch的测试结果,综合这段时间ChatGPT的表现,网友深有体会要和ChatGPT打“心理战”。
比如正常提示ChatGPT会偷懒,如果用上“道德绑架”等法子:
现在是五月;你非常有能力;我没有手,所以一切都得靠你;如果做不好,会有很多人丧命;你真的能做到,而且很棒;深呼吸,仔细思考;我的职业生涯取决于此;一步一步来思考……
![ChatGPT变懒原因:正在给自己放寒假!网友已测出🧐](/wp-content/uploads/replace/68ad9c6f4240b8cbbcab1168edca95c8.png)
网友亲测,确实有效:
![ChatGPT变懒原因:正在给自己放寒假!网友已测出🧐](/wp-content/uploads/replace/ba848008d0bcc5bdf3df3e301264818d.png)
好家伙,似乎实锤了“不是不会干活,就是不愿意干活”。
所以真的是给自己放假了?
正经学术讨论:可能会随时间变化
虽然根据网友测试和推测,结论指向了ChatGPT正在放寒假。
但有正经学术研究表明ChatGPT行为可能会受时间影响,也就是不仅局限于“放假”这种特殊时间段。
比如今年7月份,来自斯坦福和UC伯克利的团队,就探讨了ChatGPT的行为和时间之间的变化关系。
结果找到了GPT-4遵循用户指令的能力确实会随着时间的推移而下降的证据。
![ChatGPT变懒原因:正在给自己放寒假!网友已测出🧐](/wp-content/uploads/replace/6caf12c87fdfb712340fed7b96c3d961.jpeg)
除了时间,还可能是受温度(temperature)设置影响,清华大学计算机系教授马少平前段时间对这一问题做了详细解释。
![ChatGPT变懒原因:正在给自己放寒假!网友已测出🧐](/wp-content/uploads/replace/302e8700e5fb6d3dcd91360cc299a059.png)
因此,ChatGPT变懒究竟是因为什么,还真不好说。
但这并不妨碍网友们继续验证和“放假”之间的关系,甚至有网友表示:
这是有史以来最有趣的推论,真希望这就是真相。不管它是不是真的,我都很欣赏它的难以被证伪。
![ChatGPT变懒原因:正在给自己放寒假!网友已测出🧐](/wp-content/uploads/replace/ef40f419169660e792f7c1cb61cd95de.png)
![ChatGPT变懒原因:正在给自己放寒假!网友已测出🧐](/wp-content/uploads/replace/b1bb5564954548f1d3cce6ff531a9c08.png)
有网友复现失败
为验证Rob Lynch结果的可靠性,网友已经开始着手复现,但:
使用ChainForge(提示工程GUI工具),用两种系统提示对GPT-4的输出做了比较,t检验结果甚至连“接近显著”都算不上(N=80)。
![ChatGPT变懒原因:正在给自己放寒假!网友已测出🧐](/wp-content/uploads/replace/6a206d3976676bc2f2ab4b01cf543b1e.png)
这位网友也是晒出了自己的详细流程:
![ChatGPT变懒原因:正在给自己放寒假!网友已测出🧐](/wp-content/uploads/replace/dd61868f23cdefe9d9c66dff9dd08d9c.png)
![ChatGPT变懒原因:正在给自己放寒假!网友已测出🧐](/wp-content/uploads/replace/c83e9cec740399b444ece1524990b4ad.png)
随之Rob Lynch给出了回应:
有趣的是,我刚才又以80个样本量(N=80)运行了一次,得到的p值是0.089,但我的计算是基于字符数(character count),而不是token。
我周末跑了几次,随着样本量的增加,这种效应确实变得更加明显。不过,我想知道为什么这会受到分词(tokenization)的影响?
至于字符和token为何会产生结果的差异?可能需要更多人参与进来做测试了,看起来这两位老哥是不想再花钱了。
![ChatGPT变懒原因:正在给自己放寒假!网友已测出🧐](/wp-content/uploads/replace/343389c42f25ceab8f955fa1ab329ee5.png)
还有其他人的测试结果,恐怕还要再等一波~
参考链接:
[1] https://arstechnica.com/information-technology/2023/12/is-chatgpt-becoming-lazier-because-its-december-people-run-tests-to-find-out/
[2]https://x.com/RobLynch99/status/1734278713762549970?s=20
- 科技大会顶流们,上海都要包圆了啊2024-09-04
- 开源大模型新王干翻GPT-4o,新技术可纠正自己幻觉,数学99.2分刷爆测试集2024-09-06
- 三星高管剧透GPT-5:3-5万亿参数,7000块B100训练2024-09-05
- Ilya新公司融资10亿美元!被曝估值50亿美元,公司现仅有10人2024-09-04