鱼羊 发自 凹非寺
量子位 报道 | 公众号 QbitAI

OpenAI再度引发热议。这次起因却是一篇深度特稿。

此前，创立于2015年12月的OpenAI，在短短4年间，已经成为全世界最具盛名的AI研究机构。但盛名之下，却也伴随着质疑：CloseAI？宣传太过火？

现在，MIT科技评论记者Karen Hao在30多次采访之后，为大众揭开了OpenAI神秘面纱的一角。

想要让AGI（通用人工智能）服务于人类的OpenAI，现在却致力于保持机密性，保护其形象，保持员工忠诚度。

她表示：OpenAI公开拥戴的理念，与其闭门造车的方式之间，显然存在偏差。

报道一出，OpenAI创始人之一的马斯克发表推文，称“OpenAI应该更加开放”。

应该对所有人工智能都进行更好的监管，特斯拉也不例外。

需要营利的非营利组织

OpenAI的成立宗旨，是通过促进和发展友好的人工智能，而使人类整体收益。而他们的努力，最终指向AGI（通用人工智能）。

在伊隆·马斯克（Elon Musk）和萨姆·阿尔特曼（Sam Altman）创立OpenAI之初，这一非营利组织立下目标：通过与其他机构和研究者的自由合作，向公众开放专利和研究成果。

但当Karen Hao走进OpenAI，进行了30几次采访之后，她指出：OpenAI已经将其使命从安全、公平地开发和分发人工智能技术，转变为一家不断融资的秘密公司。

这家公司公开拥戴的理念，与其闭门造车的方式之间，显然存在偏差。

一切变化之始，大概还是源于“营利”二字。

OpenAI新任首席执行官萨姆·阿尔特曼明确表示：

OpenAI需要赚钱才能进行研究。

毕竟，在通向AGI的研究道路上，想要取得突破性结果，对计算资源的要求每3、4个月就会翻一番。而这背后，都是巨额的经费在燃烧。

还有顶尖研究人员的薪资。据《纽约时报》报道称，2016年的时候，OpenAI只有50多人，但仅是薪水和福利就支出了700多万美元。

资金压力之下，2019年3月，人们注意到，OpenAI的结构变了。

这家宣称要为人类谋福利的AI非营利组织宣布，成立一家“利润上限”公司OpenAI LP。

也就是说，在回报达到投资上限（首批上限100倍）后，任何对OpenAI LP投资的利润都将转移到非营利组织OpenAI Nonprofit上，该公司将按其认为合适的方式分配这些利润。

到了7月份，OpenAI又接受了微软10亿美元的投资。对此，Keras作者François Chollet曾直言：

喊着非营利的旗号，却投向营利机构的怀抱…是在鬼扯…

而OpenAI内部，也并没有想象中“open”。

Karen Hao在采访中了解到，OpenAI的大多数突破都投入了大量计算资源，他们认为，计算驱动策略是通往AGI最好的方法。

而这些结果，并没有“自由合作，向公众开放”。相反，OpenAI明确指示员工和实习生不要透露相关信息，离职人员则签署了保密协议。

现在，OpenAI的管理层似乎已经摆脱了最初的想法，不再认为开放是构建有益AGI的最佳方法。

对此，OpenAI的发言人称：

安全和安保问题未来将会迫使我们减少传统出版，同时强化共享安全、政策和标准研究的重要性。

我们希望缓慢发布结果，以了解潜在的风险和影响。

GPT-2：是噱头还是深思熟虑

这就不经让人联想到了挤牙膏式开源的GPT-2。

在最初的惊艳亮相之后，GPT-2采用了分阶段开源的方式。而OpenAI的理由是：GPT-2太危险，担心其被居心不轨的人武器化。

这引起了学界的反感。罗格斯大学助理教授布里特·巴黎（Britt Paris）就说：“OpenAI试图利用对AI的恐慌来进行资本化。”

而OpenAI越来越精良的宣传工作，更为GPT-2引来了“噱头”的评价。

他们在努力经营公司形象，保持机密性，保证员工忠诚度，那么，OpenAI还是那个开放、透明的OpenAI吗？

不过，Karen Hao还是指出，OpenAI仍是人才和前沿研究的堡垒。

OpenAI面临着折衷，这不仅是因为财力问题，而且还因为OpenAI选择了AGI战略。

压力迫使OpenAI做出似乎离其初衷越来越远的决定。它急于进行炒作以吸引资金和人才，捍卫其研究以期保持优势，并追逐投入巨大计算资源的策略——不是因为他们视此为通向AGI的唯一途径，而是因为这似乎是一条捷径。

网友热议

这一长篇报道，引发了社交媒体上的热烈讨论。

对OpenAI这家明星AI研究机构，网友们大概是又爱又恨。

有网友说：如果AGI真的能实现，还是希望能由OpenAI这样的组织，而非Google、亚马逊、facebook这样的公司完成。

但也有网友认为，OpenAI使用了太多公关技巧。

（从采访来看，）GPT-2就是个噱头。

还有人觉得，AGI只是OpenAI用来表现他们技术领先的工具。

我认为他们不会成为AI领导者，可以预测OpenAI最终将被收购。

北邮陈光老师则引用了François Chollet的一段话，并表示：看完剖析OpenAI那篇文章，对这几句话有了更深的理解——相比初衷，是否有持续正确的激励，真正决定了实验室将走向何方、能走多远。

那么，你怎么看？

完整报道链接：
https://www.technologyreview.com/profile/karen-hao/

— 完 —

量子位 QbitAI · 头条号签约

关注我们，第一时间获知前沿科技动态