OpenAI,硅谷乌托邦
一、一场戏剧,不同解读
前两天看到OpenAI董事会罢免CEO奥特曼的消息,键盘第一次惊掉地上。早前又突发OpenAI几乎全员签署公开信呼吁奥特曼回归,技术核心Ilya也公开表示对主推罢免案非常后悔,希望公司重新团结。怒跳微软不到12小时的奥特曼心领神会,在Ilya帖子上追了3颗小心心。键盘第二次惊落。
除非所有内幕最终公开,不同人对于几天内OpenAI如此巨大的反复必然有不同解读。资本阴谋论从来最受欢迎,但故事未必只有这一种叙事方式。
OpenAI从一开始就是一个技术乌托邦。 和托马斯莫尔停留在旗帜阶段的乌托邦不同,OpenAI和开源软件运动一样已经获得了巨大的成功。但这次OpenAI非盈利的组织结构及改变世界的宏大愿景,也显示了脆弱的一面。
我们从这场戏剧的开幕开始说起。
二、戏剧的诞生
11月17日,OpenAI以一份既严厉又含糊的公开声明罢黜奥特曼,理由只有一句“not consistently candid”。翻译成中文就是:坦诚不绝对就是绝对不坦诚。董事会认为由于奥特曼不坦诚,董事会不再对奥特曼继续领导OpenAI抱有信心,于是痛令逐客。
这场毫无征兆的地震即刻在OpenAI团队引起轩然大波。奥特曼盟友、OpenAI联合创始人兼总裁布罗克曼 (Greg Brockman) 立即辞职,研发合规等关键岗位一批支持奥特曼的资深员工很快跟随辞职。震荡在媒体和AI行业同时发酵,前一天还盛传奥特曼挟投资人倒逼董事会认输,转眼微软CEO官宣奥特曼转投微软,OpenAI董事会则火速聘请埃米特·希尔取代刚担任临时CEO两天却和奥特曼越走越近的Mira女士。奥特曼和Ilya已成水火,然而情势在不可能反转的时候反转了。
三、独特架构和价值观导致组织脆弱
OpenAI特殊的架构结构及其理想化的价值观,才是导致组织脆弱和突然动荡的根本原因。
OpenAI实质是一家非盈利组织。OpenAI股权架构中的顶层主体OpenAI, Inc并不是企业,而是以造福全人类的、安全的通用人工智能为明确使命的非盈利组织。母公司OpenAI, Inc的所有资金全部来源于外部捐赠而非投资,包括埃隆·马斯克,Paypal联合创始人Peter Thiel和LinkedIn联合创始人Reid Hoffman等硅谷顶级企业家。
OpenAI, Inc从设立伊始就站在商业的对立面,但在联合发起人也是主要捐赠人之一的伊隆·马斯克任性退出之后,奥特曼不得不在2019年为融资续命在OpenAI, Inc下设计了一系列中间平台间接持有OpenAI Global, LLC,通过这家盈利目的的有限公司 (LLC) 吸纳包括微软在内的投资人,最后通过股东协议和章程与LLC股东约定,各自对技术成果及未来可能盈利的有条件收益作为股东投资回报。
作为非盈利组织的OpenAI, Inc实际控制权并不在任何投资人手上,而是按章程把决定权交付给董事会,由董事会对OpenAI母体行使绝对控制权。 有媒体居然以“投资人计划解散董事会”这样离谱的标题报道奥特曼回归OpenAI,显然是不负责任的。
OpenAI特殊架构来源于特殊的价值观。 之所以OpenAI设计董事会专断而非传统的股东会揽权,核心在于其非盈利性。 OpenAI母公司只接受捐赠而非投资,章程也明示其使命是保证人工智能惠及全人类而非创造利润。OpenAI在为盈利子公司OpenAI Global, LLC招纳投资时,也直言建议投资人做捐赠目的的投资,做好投资失败的准备。GPT用户协议中也规定从输入内容到输出内容的知识产权都归属使用者。在免费使用如GPT-3.5的情况下,这简直是数字雷锋,硅谷白求恩。
传统企业可分为“人合”或者“资合”两种。而OpenAI可以视为第三种,“价值观合”。正是在价值观相合的情况下,不同人才会走到一起并一致放弃利益以及控制权。这也能解释奥特曼为什么没有在OpenAI董事会预留特别投票权。
四、对立的不是理想,是实现理想的方法
本次大分裂的两位主角奥特曼和Ilya,并不是在理想和利益上对立,而是对实现理想的方法有分歧。
奥特曼和Ilya同样抱着人工智能改变世界的愿望,主动放弃对OpenAI的持股和经营收益。奥特曼在包括接受采访和在国会作证的所有场合,都反复强调自己不会从OpenAI获取收益,设立OpenAI是为了防止少数公司垄断人工智能,保证人工智能的发展对人类普惠。
Ilya Sutskever不但是AI宗师辛顿的学生,自己也在AI技术领域占据一席之地。奥特曼和马斯克在2015年特地把Ilya从人才济济的谷歌挖到新成立的OpenAI,马斯克说佩齐 (不是小猪,是谷歌前CEO拉里·佩齐) 为挖Ilya和自己翻脸。如果佩齐知道Ilya来OpenAI就是为了防止谷歌用DeepMind控制世界,可能当时就替小扎和马斯克约架了。
马斯克虽然在2019年从OpenAI抽身不怎么体面,捐赠1亿美元的承诺也没有足额兑现,但还是力挺Ilya的人品。罢免事件刚发生,马斯克就表示相信Ilya有良好的道德观,并不是追求权力的人。
要推测两个目标相同的人为什么突然剑拔弩张,有两种可能是最合理的:
第一大猜测,是奥特曼力推加快发展AI,而Ilya强烈要求强化人机对齐。
这个猜测的合理性,在于Ilya的确对人工智能是否会突然发展到人类难以控制的水平抱有深深的忧虑。Ilya对人工智能发展的担忧和老师辛顿如出一辙。奥特曼公开表示人工智能发展到真正的AGI可能要10年时间,但Ilya曾表示GPT可能已经产生了意识,这就离AGI只差临门一脚。
但这个猜测最大的问题在于,奥特曼不但长期关注和呼呼控制AI风险,强化AI和人类道德标准对齐,同时OpenAI在对齐方面的组织体系准备、技术投入和效果都是到位的。事实上GPT的对齐水准绝不比任何一家AI公司差,只要不对OpenAI抱有歧视就都不会否认奥特曼为对齐做出的巨大努力。
如果有人偏要质疑奥特曼是带有偏激技术主义色彩的“有效利他”社团成员,我除了提示OpenAI已经就此再三否认过,也只能承认大家都有“观点自由”。
非常大的可能是,奥特曼和Ilya在GPT发展优先还是对齐优先的问题上有各自节奏,但是任何放弃发展换取安全的策略,最终都会导致废除人工智能才是最优途径的结论,而这是OpenAI所有人都会反对的。
第二大猜测,是奥特曼激进的商业化策略,给OpenAI是否会脱离非盈利路线带来的担忧。 这是我最认同的推测。
奥特曼在11月7日的OpenAI首次开发者大会上推出GPTs (GPT工具) ,无疑给全世界带来了震撼。这一套工具体系的推出,直接将GPT从对话工具改写成未来版应用市场或者操作系统,并极大加强了OpenAI官方对应用的统治力。
GPTs新牌的打出直接让OpenAI流量挤爆,一度被迫暂停注册。这项政策的利处当然是为OpenAI大大拓宽了收费机会,加快自我造血甚至实现盈利的步伐。但问号绕了一圈,最终回到OpenAI的初心到底是盈利还是造福人类。
五、向左向右,不如向前
选盈利,还是坚持非盈利到底,OpenAI员工的态度是可以影响董事会的。
从OpenAI员工呼吁奥特曼回归的公开信可以看出,绝大多数员工清醒地认知到一个现实: OpenAI要抵达星辰大海的另一端,首先得要活下去。 AI有多烧钱不需要过多解释了,任何一个合格的大模型从芯片到耗电都是航母级别的吞金兽。GPT进一步升级必然需要更大数据的训练,也就意味着更大更多的投入。从奥特曼在马斯克撒手走人后为融资做出的一系列卓有成效的努力来看,奥特曼不仅一度挽救了OpenAI,并且证明自己具有推动OpenAI直到成功的领导能力。Ilya当然是OpenAI不可或缺的技术天才,但OpenAI的未来既不能缺少Ilya,同样不能缺少奥特曼。
合则两利分则两伤,OpenAI员工看得很清楚。
六、另类博弈:我们不一样
不论奥特曼最终是否会回归OpenAI,奥特曼和Ilya围绕董事会罢免CEO的这场爆炸性的争斗的确来得莫名其妙。用有分歧就罢免的极端方式解决矛盾,Ilya几乎演示了一把经典 (或者无药可救的) 技术直男操作。好在,Ilya已经勇敢认错。
很难说服大家放弃相信商业阴谋论,当然我自己也只是在推测,而没法断言。但是我相信OpenAI的这次内斗和我们喜闻乐见的宫闱斗争以及泼天富贵诱发的商业暗战并不相同,而是一场理想主义者之间幼稚而贸然的开战。 纯粹的理想主义,在硅谷及其历史中都可以找到传统。
虽然批评了马斯克在创立OpenAI这件事上虎头蛇尾,但马斯克15岁就宣布自己的使命是拯救人类,同样是视使命远高于金钱的理想主义者。比尔·盖茨多年前就宣布将在生前捐献绝大部分家产,扎克伯格和巴菲特都宣布将把自己99%的财产捐献给慈善机构,用行动证明财富的意义是改善世界。
苹果联合创始人之一沃兹尼亚克也很特立独行。这位AppleⅠ和AppleⅡ之父连比特币都会被人骗走,还在1980年苹果股票上市前自说自话,把自己的股票按IPO定价的1/4不到卖给 (说送也行) 苹果员工,就因为沃兹认为员工对公司贡献很大,应该成为公司的主人。
沃兹尼亚克赚钱累了就去做小学教师。看到这里聪明人笑了,这不就是摆个姿态给人看么。不过这个姿态沃兹尼亚克摆了整整十年。历史上还有一位突然转行做小学教师的名人,这就是维特根斯坦了。
硅谷自1980年代兴起自由软件运动是一个很好的示例。这场普遍认为Richard Stallman发起的反商业软件运动被Stallman自己冠以“copyleft”,体现程序员社群反对以微软为代表的商用软件巨头对软件 (尤其是操作系统) 的控制。令很多人始料未及的是,这场看上去难以持久的乌托邦运动兴盛至今,以各种形式活跃在互联网世界,成为可以和纯商业软件抗衡的庞大群体。
OpenAI和开源软件都是技术圈层理想主义的顶峰,一定程度上也是人类的穹顶。 OpenAI在推动自身也是人类历史进程的艰难过程中很难避免遇到障碍,既可能来自技术也可能来自自身。在激情和理想的幼稚碰撞中,我们也在纯粹利益之外探索一条和商业相辅的文明路径。即使摔倒,仍然值得鼓励。
本文来自微信公众号: 林华(ID:gh_4d992808ffdf) ,作者:林华