公众号
当前位置:栏目>最新>文章详情

马斯克拉黑OpenAI之我们不合适

来源:汽车商业评论(张霖郁)23年3月31日 10:30

撰文 / 张霖郁 
编辑 / 张 南 
设计 / 师 超

马斯克(Elon Musk)和OpenAI的现任CEO山姆·阿尔特曼(Sam Altman)之间的恩怨从5年前开始。

近期,正因为ChatGPT的火爆,马斯克又旧事重提。

他在推特上说“我至今搞不明白,一个我捐了1亿美元的非营利机构是怎么变成一个市值300亿美元的营利性组织的。如果这是合法的话,为什么其他人不都这么做呢?”

阿尔特曼在3月25日接受了麻省理工人工智能研究员莱克斯·弗瑞德曼(Lex Fridman)的采访,莱克斯同时也是一位网红播客主。

这场采访接近两个半小时,阿尔特曼正面回应了马斯克炮轰OpenAI从开源到闭源,从非营利组织到营利组织的转变。

他说:“我相信他对AGI(Artificial General Intellengence)的安全问题深感紧张,这是可以理解的,但我相信他也有一些其他的动机……在我成长过程中,一直都把马斯克看作偶像。他在推特上表现得像个混蛋,但我还是很高兴这个世界有他这样的人。我希望他能多看看我们为了把这件事做好而付出的努力……我也许应该回击,可能以后会的,但这并不是我的正常做法。”

马斯克比阿尔特曼大14岁。他在OpenAI于2015年12月11日成立时,先捐了1亿美元,当时他承诺会投入10亿美元,和他同时捐款的还有PayPal 联合创始人彼得·希尔( Peter Thiel)以及时任创业孵化器Y Combinator总裁的阿尔特曼。

目前,阿尔特曼已卸任Y Combinator总裁职务,他在2018年前后成为了OpenAI的首席执行官。

这里值得一提的是英伟达创始人黄仁勋,他在2016年8月,把英伟达生产的第一台超算DGX-1捐给了OpenAI,当时在场的见证人就包括马斯克。

这台超算DGX-1,用黄仁勋的话说,是3000人花费3年时间才研发出来的首个轻量化小型超算,计算和吞吐能力相当于250台传统服务器。当时他手里压着100多家公司的订单,却把第一台捐给了OpenAI。

从2015年到2018年期间,OpenAI的定位是一家非营利组织,目标是率先创建 AGI,这是一种具有人类思维学习和推理能力的机器。他们的目的不是统治世界,而是希望该技术得到安全开发,并将其收益平均分配给全世界。

“我们需要一个具有领先性的研究机构,优先考虑所有老百姓的好处而不是优先自身的利益,我们鼓励研究人员发表他们的作品,无论是论文、博客文章还是代码,我们的专利(如果有的话)将与全世界共享”,这是当时OpenAI的初心。

2018年底前的OpenAI鼓励开源,透明和分享。它当时的主要对手是DeepMind,这家人工智能实验室比OpenAI早5年成立,2014年被谷歌收购,资金实力远在当时的OpenAI之上。

分歧

对于大多数美国人而言,第一次听说OpenAI是在2019年2月14日,这一天他们发布了ChatGPT-2。而对于我们国人而言,ChatGPT似乎是最近才公诸于世的事。

那一天,这家实验室宣布了一项令人印象深刻的发现:一种可以按下按钮便生成令人信服的论文和文章的模型。给它一个句子《指环王》,它将以同样的方式发出一段又一段的文案。

OpenAI组织性质的改变是从2018年4月开始的,当时实验室发布了特许章程。章程里重新阐述了实验室的核心价值观,其中巧妙地改变了原来的说法。除了承诺“避免利用人工智能或AGI损害人类或不适当地产生集权”外,章程里此次还强调了资源的必要性。

“我们需要调集大量资源来完成使命,”章程里这么写道,“但我们将始终努力采取行动,尽量降低员工和利益相关方之间与广泛利益之间的利益冲突。”

但这一年,公众和大多数员工并没有意识到OpenAI这悄然的变动。马斯克正是在这个时候选择退出OpenAI的,或许那时他已经知道微软入资的消息。他觉得双方的价值理念将由此不同。

退出OpenAI后,他没有再继续捐款,自己便另起炉灶,成立了自己的AGI研发团队。

OpenAI真正的结构性变化发生在2019年3月。它不再是纯粹的非营利性质,实验室成为一家“有上限利润”营利机构,它把对投资者回报限制在 100倍以内,但从组织架构上,它还不能算完全的营利组织,因为OpenAI由一个非营利实体的董事会监管。

此后不久,OpenAI宣布了微软10亿美元的投资,但双方并没有透露这笔投资是现金形式,还是微软云计算平台Azure也算其中的折现。

阿尔特曼是在这段时期出任OpenAI的首席执行官。此次马斯克在推特上再度批评OpenAI的组织性质,不过是5年前不满情绪的延续。

为什么从非营利到营利

旧金山第 18 街和福尔瑟姆街的交叉口,OpenAI 的办公室看起来像一个神秘的仓库。这座历史悠久的建筑拥有单调的灰色镶板和有色窗户,大部分窗帘都被拉下。字母“PIONEER BUILDING”(先锋大厦)展现了它的前主人 Pioneer Truck Factory (先锋卡车工厂)的遗迹。

办公室内部,空间明亮通透。一楼有几个公共区域和两个会议室。一间适合大型会议,称为“太空漫游”;另一间更像是一个美化的电话亭,称为“无限笑料”。

3年前,MIT科技评论(MIT Technology Review)的撰稿人Karen Hao曾对这家公司进行深度采访,当时她只被允许在一楼活动,二楼和三楼均为禁区,处于保密状态。这两层是员工的办公区域以及放机器人的地方。

Karen在一楼见到OpenAI联合创始人兼CTO格瑞格·布罗克曼(Greg Brockman),她在文章中写道:他看起来很紧张,也很警惕。他穿着便服,和 OpenAI 的许多人一样,留着不规则的发型,这似乎反映了一种高效、朴实的心态。

OpenAI核心团队成员合影,二排中为格瑞格·布罗克曼(Greg Brockman)▼

布罗克曼说,当团队研究AGI的趋势时,他们意识到保持非营利组织这一性质在资金的持续上是行不通的。这个领域的其他对手用来取得突破性成果的计算资源每3.4个月翻一番,这需要足够的资本来匹配或超过这种指数级的增长。这就需要一种新的组织模式,既能迅速积累资金,又能以某种方式忠于使命。

2019年4月的这次变动引发了很多人的指责,他们称 OpenAI 正在违背其使命。

公告发布后不久,在AGI的相关论坛上的一篇帖子中,一位用户询问 100 倍的限制是如何限制的:“谷歌的早期投资者已经获得了大约 20 倍的资本回报,”他们写道。“你敢打赌,你将拥有一个回报率比谷歌高出几个数量级的公司结构吗?同时你又说不想‘过度集中权力’?这将如何运作?如果不是资源的集中,权力到底是什么?”

此举也让许多员工感到不适,他们表达了类似的担忧。

布罗克曼说:“我们花了很长时间与员工进行内部迭代,以使整个公司接受一套原则一套价值观,这意味着即使我们改变了结构,也必须保持不变的东西。”

2019年的夏天,在转向利润上限模式和微软注资 10 亿美元后的几周内,管理层向员工保证,这些更新不会在功能上改变 OpenAI 的研究方法。微软与实验室的价值观非常一致,任何商业化努力都将遥遥无期,寻求基本问题仍将是工作的核心。

有一段时间,这些保证似乎是正确的,项目照原样继续进行。许多员工甚至不知道OpenAI向微软做出了哪些承诺。

但2020年初,OpenAI 商业化的压力越来越大,进行赚钱的研究不再是遥不可及的事情。在与员工私下分享对实验室的 2020 年愿景时,阿尔特曼传达的信息很明确:OpenAI 需要赚钱才能做研究。

管理层表示,这是一个艰难但必要的权衡。由于缺乏富有的慈善捐助者,它不得不做出这样的取舍。

但背后真正的原因是,OpenAI 面临这种权衡,不仅仅是资金压力,更重要的是它的战略选择,OpenAI试图先于其他人达到 AGI。

这种压力迫使它做出似乎离初衷越来越远的决定。它在急于吸引资金和人才的过程中倾向于炒作,保护自己的研究以期保持优势,并追求计算量大的策略——不是因为它被视为通向 AGI 的唯一途径,而是因为它似乎是最快的。

2021年微软再度入资,这次高达100亿美元。微软也由此成为OpenAI的独家云服务商。2023年,微软官宣和OpenAI的合作已进入第三个阶段。

本文由汽车商业评论原创出品

转载或内容合作请联系说明

违规转载必究