OpenAI不Open：闭门造车、融资不断，深度报道再掀争议，马斯克：应该更加开放
鱼羊 发自 凹非寺
量子位 报道 | 公众号 QbitAI
OpenAI再度引发热议。这次起因却是一篇深度特稿。
此前，创立于2015年12月的OpenAI，在短短4年间，已经成为全世界最具盛名的AI研究机构。但盛名之下，却也伴随着质疑：CloseAI？宣传太过火？
现在，MIT科技评论记者Karen Hao在30多次采访之后，为大众揭开了OpenAI神秘面纱的一角。
想要让AGI（通用人工智能）服务于人类的OpenAI，现在却致力于保持机密性，保护其形象，保持员工忠诚度。
她表示：OpenAI公开拥戴的理念，与其闭门造车的方式之间，显然存在偏差。
报道一出，OpenAI创始人之一的马斯克发表推文，称“OpenAI应该更加开放”。
应该对所有人工智能都进行更好的监管，特斯拉也不例外。
需要营利的非营利组织
OpenAI的成立宗旨，是通过促进和发展友好的人工智能，而使人类整体收益。而他们的努力，最终指向AGI（通用人工智能）。
在伊隆·马斯克（Elon Musk）和萨姆·阿尔特曼（Sam Altman）创立OpenAI之初，这一非营利组织立下目标：通过与其他机构和研究者的自由合作，向公众开放专利和研究成果。
但当Karen Hao走进OpenAI，进行了30几次采访之后，她指出：OpenAI已经将其使命从安全、公平地开发和分发人工智能技术，转变为一家不断融资的秘密公司。
这家公司公开拥戴的理念，与其闭门造车的方式之间，显然存在偏差。
一切变化之始，大概还是源于“营利”二字。
OpenAI新任首席执行官萨姆·阿尔特曼明确表示：
OpenAI需要赚钱才能进行研究。
毕竟，在通向AGI的研究道路上，想要取得突破性结果，对计算资源的要求每3、4个月就会翻一番。而这背后，都是巨额的经费在燃烧。
还有顶尖研究人员的薪资。据《纽约时报》报道称，2016年的时候，OpenAI只有50多人，但仅是薪水和福利就支出了700多万美元。
资金压力之下，2019年3月，人们注意到，OpenAI的结构变了。
这家宣称要为人类谋福利的AI非营利组织宣布，成立一家“利润上限”公司OpenAI LP。
也就是说，在回报达到投资上限（首批上限100倍）后，任何对OpenAI LP投资的利润都将转移到非营利组织OpenAI Nonprofit上，该公司将按其认为合适的方式分配这些利润。
到了7月份，OpenAI又接受了微软10亿美元的投资。对此，Keras作者François Chollet曾直言：
喊着非营利的旗号，却投向营利机构的怀抱…是在鬼扯…
而OpenAI内部，也并没有想象中“open”。
Karen Hao在采访中了解到，OpenAI的大多数突破都投入了大量计算资源，他们认为，计算驱动策略是通往AGI最好的方法。
而这些结果，并没有“自由合作，向公众开放”。相反，OpenAI明确指示员工和实习生不要透露相关信息，离职人员则签署了保密协议。
现在，OpenAI的管理层似乎已经摆脱了最初的想法，不再认为开放是构建有益AGI的最佳方法。
对此，OpenAI的发言人称：
安全和安保问题未来将会迫使我们减少传统出版，同时强化共享安全、政策和标准研究的重要性。
我们希望缓慢发布结果，以了解潜在的风险和影响。
GPT-2：是噱头还是深思熟虑
这就不经让人联想到了挤牙膏式开源的GPT-2。
在最初的惊艳亮相之后，GPT-2采用了分阶段开源的方式。而OpenAI的理由是：GPT-2太危险，担心其被居心不轨的人武器化。
这引起了学界的反感。罗格斯大学助理教授布里特·巴黎（Britt Paris）就说：“OpenAI试图利用对AI的恐慌来进行资本化。”
而OpenAI越来越精良的宣传工作，更为GPT-2引来了“噱头”的评价。
他们在努力经营公司形象，保持机密性，保证员工忠诚度，那么，OpenAI还是那个开放、透明的OpenAI吗？
不过，Karen Hao还是指出，OpenAI仍是人才和前沿研究的堡垒。
OpenAI面临着折衷，这不仅是因为财力问题，而且还因为OpenAI选择了AGI战略。
压力迫使OpenAI做出似乎离其初衷越来越远的决定。它急于进行炒作以吸引资金和人才，捍卫其研究以期保持优势，并追逐投入巨大计算资源的策略——不是因为他们视此为通向AGI的唯一途径，而是因为这似乎是一条捷径。
网友热议
这一长篇报道，引发了社交媒体上的热烈讨论。
对OpenAI这家明星AI研究机构，网友们大概是又爱又恨。
有网友说：如果AGI真的能实现，还是希望能由OpenAI这样的组织，而非Google、亚马逊、facebook这样的公司完成。
但也有网友认为，OpenAI使用了太多公关技巧。
（从采访来看，）GPT-2就是个噱头。
还有人觉得，AGI只是OpenAI用来表现他们技术领先的工具。
我认为他们不会成为AI领导者，可以预测OpenAI最终将被收购。
北邮陈光老师则引用了François Chollet的一段话，并表示：看完剖析OpenAI那篇文章，对这几句话有了更深的理解——相比初衷，是否有持续正确的激励，真正决定了实验室将走向何方、能走多远。
那么，你怎么看？
完整报道链接：https://www.technologyreview.com/profile/karen-hao/
— 完 —
- 从骁龙8至尊版，我看到了AI手机的未来 | 智在终端2024-12-17
- o1被曝“心机深”：逃避监督还会撒谎，骗人能力一骑绝尘2024-12-09
- 低成本机器人“皮肤”登上Nature子刊：实现三维力的自解耦，来自法国国家科学研究中心&香港大学2024-11-23
- OpenAI重夺竞技场第一，但这波靠的是4o2024-11-21
相关阅读
