鱼羊 发自 凹非寺
量子位 报道 | 公众号 QbitAI

OpenAI再度引发热议。这次起因却是一篇深度特稿。

此前,创立于2015年12月的OpenAI,在短短4年间,已经成为全世界最具盛名的AI研究机构。但盛名之下,却也伴随着质疑:CloseAI?宣传太过火?

现在,MIT科技评论记者Karen Hao在30多次采访之后,为大众揭开了OpenAI神秘面纱的一角。

想要让AGI(通用人工智能)服务于人类的OpenAI,现在却致力于保持机密性,保护其形象,保持员工忠诚度。

她表示:OpenAI公开拥戴的理念,与其闭门造车的方式之间,显然存在偏差。

报道一出,OpenAI创始人之一的马斯克发表推文,称“OpenAI应该更加开放”。

应该对所有人工智能都进行更好的监管,特斯拉也不例外。

需要营利的非营利组织

OpenAI的成立宗旨,是通过促进和发展友好的人工智能,而使人类整体收益。而他们的努力,最终指向AGI(通用人工智能)。

在伊隆·马斯克(Elon Musk)和萨姆·阿尔特曼(Sam Altman)创立OpenAI之初,这一非营利组织立下目标:通过与其他机构和研究者的自由合作,向公众开放专利和研究成果。

但当Karen Hao走进OpenAI,进行了30几次采访之后,她指出:OpenAI已经将其使命从安全、公平地开发和分发人工智能技术,转变为一家不断融资的秘密公司。

这家公司公开拥戴的理念,与其闭门造车的方式之间,显然存在偏差。

一切变化之始,大概还是源于“营利”二字。

OpenAI新任首席执行官萨姆·阿尔特曼明确表示:

OpenAI需要赚钱才能进行研究。

毕竟,在通向AGI的研究道路上,想要取得突破性结果,对计算资源的要求每3、4个月就会翻一番。而这背后,都是巨额的经费在燃烧。

还有顶尖研究人员的薪资。据《纽约时报》报道称,2016年的时候,OpenAI只有50多人,但仅是薪水和福利就支出了700多万美元。

资金压力之下,2019年3月,人们注意到,OpenAI的结构变了。

这家宣称要为人类谋福利的AI非营利组织宣布,成立一家“利润上限”公司OpenAI LP

也就是说,在回报达到投资上限(首批上限100倍)后,任何对OpenAI LP投资的利润都将转移到非营利组织OpenAI Nonprofit上,该公司将按其认为合适的方式分配这些利润。

到了7月份,OpenAI又接受了微软10亿美元的投资。对此,Keras作者François Chollet曾直言:

喊着非营利的旗号,却投向营利机构的怀抱…是在鬼扯…

而OpenAI内部,也并没有想象中“open”。

Karen Hao在采访中了解到,OpenAI的大多数突破都投入了大量计算资源,他们认为,计算驱动策略是通往AGI最好的方法。

而这些结果,并没有“自由合作,向公众开放”。相反,OpenAI明确指示员工和实习生不要透露相关信息,离职人员则签署了保密协议。

现在,OpenAI的管理层似乎已经摆脱了最初的想法,不再认为开放是构建有益AGI的最佳方法。

对此,OpenAI的发言人称:

安全和安保问题未来将会迫使我们减少传统出版,同时强化共享安全、政策和标准研究的重要性。

我们希望缓慢发布结果,以了解潜在的风险和影响。

GPT-2:是噱头还是深思熟虑

这就不经让人联想到了挤牙膏式开源的GPT-2。

在最初的惊艳亮相之后,GPT-2采用了分阶段开源的方式。而OpenAI的理由是:GPT-2太危险,担心其被居心不轨的人武器化。

这引起了学界的反感。罗格斯大学助理教授布里特·巴黎(Britt Paris)就说:“OpenAI试图利用对AI的恐慌来进行资本化。”

而OpenAI越来越精良的宣传工作,更为GPT-2引来了“噱头”的评价。

他们在努力经营公司形象,保持机密性,保证员工忠诚度,那么,OpenAI还是那个开放透明的OpenAI吗?

不过,Karen Hao还是指出,OpenAI仍是人才和前沿研究的堡垒。

OpenAI面临着折衷,这不仅是因为财力问题,而且还因为OpenAI选择了AGI战略。

压力迫使OpenAI做出似乎离其初衷越来越远的决定。它急于进行炒作以吸引资金和人才,捍卫其研究以期保持优势,并追逐投入巨大计算资源的策略——不是因为他们视此为通向AGI的唯一途径,而是因为这似乎是一条捷径。

网友热议

这一长篇报道,引发了社交媒体上的热烈讨论。

对OpenAI这家明星AI研究机构,网友们大概是又爱又恨。

有网友说:如果AGI真的能实现,还是希望能由OpenAI这样的组织,而非Google、亚马逊、facebook这样的公司完成。

但也有网友认为,OpenAI使用了太多公关技巧。

(从采访来看,)GPT-2就是个噱头。

还有人觉得,AGI只是OpenAI用来表现他们技术领先的工具。

我认为他们不会成为AI领导者,可以预测OpenAI最终将被收购。

北邮陈光老师则引用了François Chollet的一段话,并表示:看完剖析OpenAI那篇文章,对这几句话有了更深的理解——相比初衷,是否有持续正确的激励,真正决定了实验室将走向何方、能走多远。

那么,你怎么看?

完整报道链接:
https://www.technologyreview.com/profile/karen-hao/

— 完 —

量子位 QbitAI · 头条号签约

关注我们,第一时间获知前沿科技动态