突发！OpenAI开除Ilya盟友，理由：涉嫌信息泄漏
神秘Q*再次引发热议
西风 发自 凹非寺
量子位 | 公众号 QbitAI
突发！OpenAI开人了，理由：涉嫌信息泄露。
一位是失踪的首席科学家Ilya盟友，超级对齐（Superalignment）团队核心成员Leopold Aschenbrenner。
另一位也不简单，是LLM推理团队研究员Pavel Izmailov，曾经也在超级对齐团队干过。
目前尚不清楚这俩人到底泄露了啥信息。
消息被曝出后，不少网友表示“挺震惊”：
不久前我还看过Aschenbrenner的帖子，感觉他正处于事业上升期，没想到会有这样的转变。
还有网友认为：
OpenAI失去Aschenbrenner，Ilya Sutskever也被边缘化，该公司对于构建安全AI的承诺看起来更加不可信了。
OpenAI人才流动，与谷歌Meta互挖墙脚已经见怪不怪，但开除形式的人事调动，还是去年11月董事会叛变之后的第一回。
俩人曾经都是Ilya的部下
据了解，Leopold Aschenbrenner于一年前加入OpenAI。此前他曾在Future Fund工作过，再往前追溯，19岁从哥伦比亚大学毕业，还在牛津大学做过经济增长方面的研究。
Pavel Izmailov这边，他还是纽约大学CILVR小组成员，本人透露2025年秋将加入纽约大学Tandon CSE、Courant CS担任助理教授。
目前，俩人的X主页还都备注着与OpenAI的关系。
最近这个月俩人都没有发新推文，不过置顶帖子倒是很亮眼。
没错，都是超级对齐团队的第一篇论文，俩人都是这篇论文的作者。
这就不得不说到这个团队，组团于去年7月份，是OpenAI为应对不同时间尺度上大模型可能会产生的安全问题，成立的三大安全团队之一。
超级对齐团队负责遥远的未来，给超越人类的超级智能安全性奠定基础，由Ilya Sutskever和Jan Leike领导。
虽然OpenAI看起来似乎在安全方面很重视，但其内部对AI的安全开发存在很大分歧已不是什么秘密。
这种分歧甚至被认为是去年11月OpenAI董事会内讧的最大原因：
网传Ilya Sutskever成为“政变”带头人，就是因为看到了一些东西让他内心不安。
而Ilya带领的这个超级对齐团队，很多成员也是站在Ilya这边，在后来支持奥特曼的比心接龙活动中，这个超级对齐团队成员也基本保持了沉默。
随着OpenAI内讧事件的平息，奥特曼成为赢家，Ilya Sutskever离开董事会几乎没再公开露头，超级对齐团队现在是个什么情况咱也不知道。
再说回到这次两位研究员被解雇。
两人曾经都是Ilya部下，the information还表示Aschenbrenner是Ilya盟友、与优先考虑解决AI危险性的运动有关联。
所以，也有网友猜测这次裁员是奥特曼的“秋后算账”。
和Q*泄密有关？
除此之外，网友比较关心还有泄密的内容究竟是什么。
目前猜测的焦点还是放在Q*，也就是董事会叛变大戏的导火索之一。
根据网友评论，Jimmy apples似乎发过相关推文，但没过多久我们看到链接打开时已是推文被删的大状态……
从遗留的蛛丝马迹来看，好像大概也许还是和Q*有关。
目前Q*从传闻，已经变成被正式确认的存在，但关于它的一切，奥特曼本人目前都守口如瓶。
总之自从Q*之后，OpenAI内部开始出现理念分歧。
经历一系列风波后，93%的员工签署联名信与奥特曼共存亡，调查结果公布后奥特曼无罪重返董事会。
看似风平浪静，上下一心致力于实现AGI背后，裂痕仍旧存在。
参考链接：
[1]https://www.theinformation.com/articles/openai-researchers-including-ally-of-sutskever-fired-for-alleged-leaking
[2]https://x.com/BenjaminDEKR/status/1778536771837694353
[3]https://twitter.com/leopoldasch
[4]https://twitter.com/Pavel_Izmailov
[5]https://www.reddit.com/r/singularity/comments/1c1qo04/openai_superalignment_researcher_fired_for/
- 马斯克新官上任再起诉OpenAI！新证据称Ilya七年前就不放心奥特曼2024-11-16
- 杨植麟发布Kimi新模型：数学对标o1，中考高考考研成绩全第一2024-11-16
- 量化能让大模型“恢复记忆”，删掉的隐私版权内容全回来了2024-11-16
- 大模型“取长补短”新思路入选NeurIPS’24，显著优于现有路由方法，南科大港科大出品2024-11-14
相关阅读
