奥特曼小作文否认OpenAI离职霸王条款,网友:他有前科
还回应了OpenAI安全战略
西风 发自 凹非寺
量子位 | 公众号 QbitAI
奥特曼承诺的小作文,它来了,还一发发两篇!
一篇短的,回应了离职霸王条款,也就是员工离职后说OpenAI坏话会被收回股权的事儿。
另一篇超长,讲了OpenAI的整体安全战略,回应了OpenAI前超级对齐负责人Jan Leike昨天的13条推文爆料:
OpenAI对AGI的安全治理,优先级不如推出“闪亮的产品”。
![奥特曼小作文否认OpenAI离职霸王条款,网友:他有前科](/wp-content/uploads/replace/9f4777c944ae7c0e9e9c0377b1b656a3.png)
不过,这篇回应小作文不是从奥特曼自己发的,而是Greg Brockman发的。
明明是在Greg的账号,署名确是Sam在前面,“Sam and Greg”。
冲着奥特曼这个发回应小作文的速度,昨天面对超级对齐团队炮轰还显得很淡定的奥特曼,看来也没那么淡定。
![奥特曼小作文否认OpenAI离职霸王条款,网友:他有前科](/wp-content/uploads/replace/4563551450288a082439a96e24d77517.png)
不过,这两篇小作文发出后,很多网友并不买账。
甚至有人这样评论小作文的效果:
汗流浃背的CEO发了一条全力挽回声誉的推文,从社区宠儿迅速跌落至声誉崩塌。
![奥特曼小作文否认OpenAI离职霸王条款,网友:他有前科](/wp-content/uploads/replace/9041cfd1781a42ef16bdd1fabc907c41.png)
奥特曼都说了啥?
不会收回股权
先来看第一篇,完整版如下。
![奥特曼小作文否认OpenAI离职霸王条款,网友:他有前科](/wp-content/uploads/replace/a6c9066bc0b9b7490882e7b2e7a7ae2e.png)
关于最近有关OpenAI处理股权的问题:
我们从未收回任何人已有的股权,即便员工未签署离职协议/不诋毁协议,我们也不会这么做。你的股权就是你的股权,这一点毫无疑问。
在我们之前的离职文件中确实有一项关于潜在收回股权的条款;虽然我们从未实际执行过这一条款,但这种条款不应该出现在任何文件或沟通中。
这是我的责任,是我在管理OpenAI过程中为数不多的几次真正尴尬的事情之一;我之前并不知道有这种情况,但我本应知道。
过去一个月左右,团队一直在修订标准离职文件。如果有任何前员工因签署了这些旧协议而感到担忧,可以联系我,我们会解决这个问题。对此我深感抱歉。
一句话总结:这事儿我不知道,大家放心不会收回你已有的股权。
看起来奥特曼回应的挺诚恳的,但网友看了一眼就表示:Jan赢了。
![奥特曼小作文否认OpenAI离职霸王条款,网友:他有前科](/wp-content/uploads/replace/cd4dd41e9961f4b3ae4795bcd9fd20df.png)
为啥?
有网友摆出了不相信奥特曼的理由。
![奥特曼小作文否认OpenAI离职霸王条款,网友:他有前科](/wp-content/uploads/replace/ec7e0a1ebf41c9f8cb968ee6d8a47226.png)
首先,有网友爆料奥特曼在之前的公司也让员工签过反诋毁协议。
YCR HARC解散的时候,奥特曼让每个人都签署了一份保密和反诋毁协议,这样才能保留自己使用的电脑。我觉得这很奇怪。我之前就买下了使用的那台iMac,所以我现在可以谈论这件事。
![奥特曼小作文否认OpenAI离职霸王条款,网友:他有前科](/wp-content/uploads/replace/c86996cddaa3cda525c5a085e5c10cb2.png)
其次,众所周知,去年OpenAI内讧那会儿,有爆料称奥特曼与当时的董事会其他成员私下谈话,讨论替换掉Helen Toner(OpenAI原董事会成员),就是因为Helen和别人合写了一篇隐晦批评OpenAI“煽动炒作AI的火焰”的文章。
所以,网友觉得让员工签不能说坏话的协议,不然就收回股权,这事儿奥特曼不可能不知道,这符合他的风格。
退一步来讲,就算奥特曼本人不知道这个条款,OpenAI知道吧?这个条款又不会凭空出现。离职的员工肯定知道吧?
就没有人跟奥特曼投诉过?
![奥特曼小作文否认OpenAI离职霸王条款,网友:他有前科](/wp-content/uploads/replace/9c85a154aa48b3d445ad444c401a0b16.png)
OpenAI的安全战略
再来看关于安全问题的回应。
![奥特曼小作文否认OpenAI离职霸王条款,网友:他有前科](/wp-content/uploads/replace/5c30aef4202e45bc9a3bdf7cba2d921d.png)
感谢Jan为OpenAI所做的一切贡献,即使他离开了,我们也相信他还会继续为我们的使命做出贡献。鉴于他的离职引发了一些问题,我们希望澄清我们对整体战略的看法。
首先,我们提高了对AGI风险和机遇的认识,帮助世界更好地为AGI的到来做好准备。我们多次展示了深度学习扩展带来的巨大潜力,并分析了这些潜力的影响。在国际上,我们率先呼吁对AGI进行治理,并在AI系统灾难性风险评估方面开创了科学研究。
其次,我们正在建立安全部署愈发强大的AI系统所需要的基础设施。确保一项新技术的安全并非易事。比如,我们的团队为安全推出GPT-4付出了大量努力,自那以后,我们不断改进模型行为和滥用监控,以应对部署中学到的经验教训。
第三,未来的挑战将更胜以往。我们需要不断提升安全工作,以应对每个新模型带来的风险。去年,我们采用了Preparedness Framework,用来系统化实现这一目标的方法。
是时候谈谈我们对未来的看法了。
随着模型愈发强大,我们预计它们将更深入地融入现实世界。用户将更多地与由多模态模型和工具组成的系统互动,这些系统不仅通过文本输入输出与用户对话,还能代表用户执行命令。
这些系统将对人们帮助巨大,并且可以安全地交付,但这需要大量基础工作。包括在训练过程中深入思考它们连接的内容,解决可扩展监督等难题,以及其他新型安全工作。我们尚不确定何时能达到我们的安全标准,推迟发布也是可能的。
我们无法预见未来每一个情景。因此,我们需要紧密的反馈循环、严格的测试,每一步都要谨慎考虑,保证世界级的安全性以及安全和能力的平衡。我们将继续进行不同时间尺度的安全研究,并与政府和利益相关者就安全问题合作。
目前还没有已验证的科学手册可以指导我们走向AGI。我们相信基于经验的理解可以指引前进的道路。我们努力实现AI系统巨大的潜力,同时减轻带来的严重风险;我们认真审视我们扮演的角色,并仔细权衡反馈。
——Sam和Greg
看完后,网友一致认为虽然是Greg发的,但绝对是奥特曼写的。因为看起来一大篇,但实质性的东西啥也没说。
![奥特曼小作文否认OpenAI离职霸王条款,网友:他有前科](/wp-content/uploads/replace/a8ea9565de19ca83d207e760a3fc3c8b.png)
![奥特曼小作文否认OpenAI离职霸王条款,网友:他有前科](/wp-content/uploads/replace/41975d668ec7fd1dac88735326fb825e.png)
为啥要让Greg发,有网友猜大概是因为……奥特曼现在特别脆弱,觉得有必要发出“Greg和我在一起,我发誓”这样的信息,来表明自己并不孤单。
![奥特曼小作文否认OpenAI离职霸王条款,网友:他有前科](/wp-content/uploads/replace/6c002bee351420d13daa83d5307ecbc0.png)
不过也有网友从中分析出,OpenAI的策略是通过测试、不断的反馈来改进模型确保AI安全性,这其实和超级对齐团队主张的预先给出证明的方法相悖,也难怪他们会分道扬镳。
![奥特曼小作文否认OpenAI离职霸王条款,网友:他有前科](/wp-content/uploads/replace/e3b48e5af3130bf56c90a2c445d643d1.png)
对于这两篇回应,大伙儿怎么看?
参考链接:
[1]https://x.com/gdb/status/1791869138132218351
[2]https://news.ycombinator.com/item?id=40400224
[3]https://x.com/sama/status/1791936857594581428
[4]https://news.ycombinawtor.com/item?id=40402091
- 科技大会顶流们,上海都要包圆了啊2024-09-04
- 开源大模型新王干翻GPT-4o,新技术可纠正自己幻觉,数学99.2分刷爆测试集2024-09-06
- 三星高管剧透GPT-5:3-5万亿参数,7000块B100训练2024-09-05
- Ilya新公司融资10亿美元!被曝估值50亿美元,公司现仅有10人2024-09-04