编者按:
白宫在变,硅谷也在变。今年美国大选,硅谷与白宫的联动成为美国政治光谱变迁的一道“靓丽的风景线”。
日前,《奥尔特曼传》作者周恒星做客观察者网的“心智观察所”。作为国内第一个采访到马斯克的科技记者,周恒星讲述了他与OpenAI创始人奥尔特曼的交往,以及对硅谷微妙转型的一线观察。
心智观察所:你推出的这本《奥尔特曼传》,是不是快出版了?
周恒星:是的,这个月就会出版。
心智观察所:这本书,你是从什么时候写到什么时候?
周恒星:其实是从2014年我刚认识萨姆·奥尔特曼(Sam
Altman)的时候,那时我刚到硅谷,然后写到今年八九月份,中间跨度可能有10年。
【与马斯克、奥尔特曼的因缘际会】
心智观察所:在谈论这些细节之前,我想先问一下,你觉得他是一个什么样的人?
周恒星:如果让我用一个词来形容,我觉得他非常像政客。他跟硅谷的很多创业者都不太一样,他是一位挺好沟通的人。因为我在硅谷见了很多那种书呆子类型的,他们不太好交流,就像马斯克一样。
心智观察所:因为我经常看他们上各种播客节目。给我的感觉马斯克就是那种非常天马行空的,特立独行的这么一个人,很敢闯、很鲁莽,什么都说,无所顾忌。而奥尔特曼就给人感觉是滴水不漏,他上节目的时候,感觉非常谦逊,他上崔娃(Trevor
Noah)、莱克斯·弗里德曼(lex Fridman )的节目,我都有看。不知道你在2014 年见到他是什么时间?那是在创建
OpenAI 之前?
周恒星:对,他是在 2015 年创建 OpenAI 的。2014 年他刚刚接任Y Combinator(注:简称YC)
的总裁,当时我是带了一个中国企业家团去硅谷考察,团里面很多人说想去 YC 参观一下,因为当时 YC
是硅谷最有名的一个孵化器。所以我当时就尝试联系了萨姆,通过 the information 的 Jessica Lency
她帮我牵的线。当时萨姆就说他有兴趣,然后让我去斯坦福找他,他在那边上课。我记得当时就是一个下午,我去找他,他在一个教室里面上课,给我的感觉就非常像一个大学生。虽然当时他可能已经快30了,但特别瘦小,然后说话特别快,当时他台下坐了很多可能年纪比他大的创业者。上完课之后,我就去跟他聊了一会儿,反正感觉他对中国特别感兴趣。然后他也很想见一下我们那个团。
心智观察所:我首次在互联网上找他的资料是我所看到的他的第一个公开演讲,他穿了两层 Polo
T恤在上面演讲,那个就让我印象很深,然后很多人就说这是一个传奇的开始。
周恒星:对,我记得应该是在08或者09年。
心智观察所:你的这本书我在这个周末把它读完了。感觉非常好读,从开头到结尾一气呵成,我觉得最大的一个特点就是多线叙事。因为硅谷各个人物之间的关系错综复杂。但是你把每一条关系根据你的板块,把这其中的逻辑整理得非常清晰。我首先想问一下,你这本书写了大量的细节,比如说奥尔特曼他是怎么样拉到微软的投资?比如他在太阳谷的会上,和纳德拉如何去推他的东西。
去年 11 月所谓OpenAI
的宫廷政变都有非常多的细节,这些细节你是怎么去了解到的?是从间接渠道知道的,还是你直接去问他们?因为有太多细节,包括他在家里面喝什么咖啡的牌子,你全都知道。
周恒星:你刚才说的其实是分两部分,一部分就是宫斗这五天发生的事情,还有一部分可能就是宫斗之前,像他去太阳谷峰会见纳德拉那段,是我在《纽约客》杂志上找到的。有个记者他有提到,说在一个楼梯间里面碰到他,这后面我就找了很多资料。
我在书后面也注明了引用来源。还有就是那五天发生的事情,因为当时我正好在硅谷。我是在 2023 年 11 月14
号那天采访了他,然后他十七号就被开除了,但 22
号又回来了。那段时间我在硅谷,有点像处在风暴的中心。我去找了各种人问,然后也去了OpenAI的大楼现场。外面有很多记者,但大家都进不去,里面安保特别严格。
我回来想写这本书的时候,就把那五天他们当时所有人发的Twitter做了整理,引用一些媒体的报道。事后,涉及到一些博客里面的描述我全部都整理了一遍,当时是按照时间顺序,比如说每小时发生什么事情,中间差不多七十个小时全部梳理了一下,当然里面有些是谣言,我把它们删除掉了。那五天的事情我花了很多时间去整理。
2023年11月,奥尔特曼(左)和微软CEO纳德拉(右)在OpenAI Devday上
心智观察所:那你如何去分辨这什么谣言和真相?你要打电话去核实吗?
周恒星:我会通过一些方式去辨别,就比如当事人在之后有澄清,或者有人去反驳他,然后那个人又出面说这是我当时搞错了等类似的方式,
至于你刚才说的喝咖啡,那个是我用的非虚构写作的手法,我知道他最喜欢的一款咖啡,然后我也去看了,他住的地方是可以看到海的。
心智观察所:所以你是按照时间线来整理,然后自己排除一些不可信的东西。刚才你提到说你第一次见到奥尔特曼是 YC
相当于训练营的一个活动。
周恒星:应该是一个创业课。YC 其实就是保罗·格雷厄姆做的一个项目。
格雷厄姆是一位很有意思的人,如果大家喜欢创业的话,可能很多人都看过他的那本书,叫《黑客与画家》。他是一位很棒的创业者和作家。我觉得他写的内容非常有感染力和生动。我觉得奥尔特曼他很多时候在模仿格雷厄姆,格雷厄姆可能是担当了萨姆的一个教父角色。
心智观察所:你认识保罗·格雷厄姆吗?
周恒星:我跟他有过来邮件来往,但我没有见过他,因为他不住在硅谷。他应该住在东海岸,剑桥那边。然后他们应该是在 2004
年的时候,保罗在东海岸做的第一个训练营。当时萨姆·奥尔特曼(Sam Altman
)是第一期的学员,当时大概有十几个团队申请,很多都是大学生,保罗就把他们接到自己的身边,手把手教他们怎么创业。那个创业营结束之后效果非常好,很多人都说想申请下一期,然后保罗就觉得可以把它作为一个事业。因为他很喜欢年轻人,然后也很喜欢创业这件事情。
心智观察所:他的热情是怎么来的?
周恒星:我觉得他有一种黑客精神。黑客精神就是我不要遵循这个世间的这些法则,我要通过创业去打破一些事情。比如做一个小公司,然后这个小公司可以去挑战大公司,他觉得这是黑客精神的一种体现。
后来他就去了硅谷,在硅谷开始做这种创业营,然后越做越大,名气很快就打响。包括后面很多很有名的硅谷公司,像Airbnb、stripe,一些其他的公司都是从那边孵化出来的。到13
年的时候,保罗就觉得我做这件事情已经享受到这种过程,就想退休了。他就把YC 掌门人的这个宝座给了萨姆奥尔特曼。
心智观察所:Y Combinator原来是一个程序语言,是编程语言中的函数。他为什么会起这么一个奇妙的名字?
周恒星:他是个极客,很喜欢编程。他好像是早期一个很有名的程序的创造者,可能他觉得公司其实也像写代码一样,他是可以去建造的,然后通过一些方法论把它们组合在一起。
心智观察所:那你当时是带了中国科技界的创业者、企业家去拜访吗?我听说还包括了张一鸣。
周恒星:对,张一鸣应该是在当时团队里面最年轻的,现在回想起来他当时不太爱说话,比较害羞,但还有其他比较知名的企业家像猎豹的傅盛、易道用车的周航、小米的黎万强,还有他们的联合创始人、一加手机的刘作虎。
心智观察所:你对中国的CEO的了解程度和你对硅谷CEO的了解程度哪个更深?
周恒星:可能我在硅谷那几年,相对来说对硅谷更加了解,但我之前也在国内工作过,那段时间我经常跑中关村。我是一位科技记者,然后当时对中国的也挺了解的。
心智观察所:那我们国内也有很多科技企业,你觉得在创始人这方面有什么相似的地方或者有什么不一样的地方吗?
周恒星:我觉得在中国的早期的互联网行业,可能大家更多的是借鉴硅谷那一套,原创的东西比较少。比如说百度借鉴了谷歌,然后腾讯也是借鉴OICQ,还有阿里巴巴可能参考了亚马逊。根据孙正义的时光机理论,这也是正常的,因为中国是一个后发市场。
但我后来发现在移动互联网阶段,大概到了2012
年之后,其实中国也是有很多创新的。就比如说张一鸣的今日头条,我觉得在推荐算法上有一个独特的创新。我记得他当时在那次去我们的活动的时候还去了Facebook总部,在座谈会的演讲中讲述了他的推荐算法,我觉得当时硅谷很多人是没有听懂的,很多人是不理解的。他说我会把你想要的信息推到你的面前,当时很多人很惊讶。但很多年之后,TikTok
出来了。
心智观察所:Facebook后来可能理解了。
周恒星:后面他们肯定是理解了,Facebook也在抄袭TikTok。中国很多线上到线下的创新,这些美国是没有的。因为美国传统行业都非常先进,很难被颠覆,但在中国互联网接管了中国商业的很大一部分,中美之间可能就是会有一些差异,但我觉得企业家精神还是比较一致的。
心智观察所:因为 YC
像是一个创业者的加速器,选各个地方的好点子孵化。国内也有类似的公司,以前比如说中关村也有一些孵化器。你觉得这种孵化器对现在国内这种科创的独角兽应该去学习什么或者有什么借鉴?
周恒星:据我所知,现在国内的孵化器好像消失了很多。
前些年是很多,然后政府也非常支持,当时也有类似大众创业、万众创新的。创业是需要一些传承的。在硅谷其实传承了很多代,从最早 60
年代就开始做芯片的,后面到互联网,到移动互联网,再到AI,这些人其实是一代一代传下来的。像保罗·格雷厄姆,他可能算是互联网开始的时候,我觉得中国可能在这方面传承还稍微有些欠缺,可能只传承了一代而已,但是硅谷已经传承三四代了。我觉得如果中国的这种传承文化可以向硅谷这边学习。假以时日的话,也是可以出现像
YC 这样的孵化器。像之前的YC 中国,后来他变成了奇迹论坛。陆奇老师,我觉得他是有那种 YC 精神的,他们那个模式跟 YC
也很像。
心智观察所:类似斯坦福大学这种,守着硅谷输出人才,保持产学研高度集中的互动,国内有没有相关借鉴?
周恒星:我觉得很多学校现在都在做,但可能不像斯坦福那么灵活。比如说有些大学教授他们做出来的东西,学校愿意以非常低的价格无偿给这个教授,再给他一些投资。可能国内还没有这么自由的这种产权模式,可能跟国内的教育体制也有关系。
心智观察所:你在2015年去了硅谷,那一年马斯克第一次成功发射火箭。你是怎么联系到他的?
周恒星:2013年我刚刚工作的时候,我的领导听说特斯拉进入到中国,他们当时在北京芳草地开了第一家店,但还没有开业。当时领导让我去采访,我就想是否可以试一下马斯克。然后我就去猜他的邮箱是什么,比如说姓或者名、组合一下之类的,我猜了好几个,后面我就猜中了,当时邮箱就是名,就埃隆(Elon),后来他把邮箱给换了,我也没有疯狂给他发邮件,其实就给他发了一封。
心智观察所:一封就回了。
周恒星:对,而且很快就回了。我觉得他那个时候特别像机器人,说话没有感染力,不像现在这样很会讲故事。至少他在我面前那种状态不是现在这样的。之后我看埃萨克森在传记里(注:艾萨克森撰写的《埃隆·马斯克传》)面也有提到他这种状态,是一种BLANK
look,就是非常空洞的看着你,可能看你跟看个杯子没有什么区别。当时那个采访就是这样。我们当时聊了一个小时,然后我问什么他就回答什么,有些创业者是非常会讲故事,非常有感染力的,而他没有给我这样的感觉。
心智观察所:那后来写了相关报道文章吗?
周恒星:当然写了一篇文章,因为我是第一个采访他的中国记者。第二天他让我去参加他一个在洛杉矶的发布会派对。我又见了他一次,我感觉他那个时候就比较开心,有可能是喝了一杯酒,他当时就有点嗨的那种感觉,对比挺强烈的。参照埃萨克森的那本书,我也感觉到,他有时候情绪起伏很大。
2023年5月31日,马斯克飞抵北京
心智观察所:马斯克这个人的轶事真的很多。听说在创业阶段他的压力比较大,经常会把自己累吐。
周恒星:他真的是九死一生,然后让他养成了就是非常敢赌,而且每次都all
in这种性格,包括这次美国大选,我觉得像已经到这种级别的,其实不应该all in,应该两头下注。
心智观察所:传统上我们都会这样想的。
周恒星:他是真的 all in,而且赌赢,我觉得这个很厉害。他在 2018
年之前,我每年几乎都会看到他公司要破产的传闻,可能一直到 Model 3 真正量产之后,大家才觉得这家公司活下来了。
他有很强的危机意识,我在书里面也提到,2018 年他们有个“量产地狱”,马斯克说我们每周要生产 5000
辆车,不然我就不出这个工厂,他每天都睡在工厂里面,就解决各种各样的问题,这也导致他 2018 年跟 OpenAI
彻底决裂,是因为那段时间他的情绪特别不稳定,他有几次直接在公司里骂人。这个也是他跟 OpenAI 彻底闹掰的一个导火索。
心智观察所:所以他是一个情绪波动很大的人,跟奥尔特曼完全是两种人。
周恒星:对,萨姆·奥尔特曼情绪很稳定,他有时候很会示弱,就通过示弱来获得同情,比如在听证会的时候,说“听证会那几天我感受到大家的爱意”。他还经常求助一些导师,像保罗·格雷厄姆,彼得·蒂尔等,而这些年长的人都很愿意帮助他这样一个年轻人。
【AGI与硅谷两条路线的宗教战争】
心智观察所:好像你在书里面提到了马斯克和奥尔特曼之间有很复杂的历史渊源和恩怨情仇,我们可不可以花一点时间去讨论一下他们两个最开始的交集?
周恒星:对,我这本书一开始就梳理了整个 AI 发展的历程, AI 从上世纪 60
年代大家就开始广为讨论,其实中间有很多挫折,也产生了一些流派纷争。但大部分的时候AI都很失败,中间经历了很多低谷。
一直到 2012 年的时候,今年获得了诺贝尔物理学奖的辛顿(Geoffrey E.
Hinton)搞出了一套算法。这套算法通过非常少的算力,用了区区几块GPU,就可以识别一些图片,准确率一下子就达到97%——这应该算是历史性的事件,说明
AI 真的可以去识别很多东西了。在那个时候,奥尔特曼当时在硅谷应该很早就看到了这个突破,所以他在2014、2015 年的时候,他在
YC 的时候就特别想通过 AI
来做一些事情,他当时觉得互联网已经进入到瓶颈期了,因为在当时很多该上市的公司都上市了,他感觉互联网可能不会再引领下一波的科技浪潮,而AI
会引领,所以他就找了很多人去聊。
他在那个时间点细致观察了AI产业,感觉这个产业有爆发的潜力。他是一个很好的攒局者,比如说会组织一些饭局,包括他去找了很多不是创投圈,甚至是学术圈的人,比如说辛顿的学生伊利亚·萨特斯基弗(Ilya
Sutskever)。他大约在 2014
年的时候给马斯克发过邮件,说我们一起来做个非营利组织来对抗谷歌。但是因为马斯克跟拉里·佩奇(Larry
Page)是很好的朋友,不过他们在一点上有很大的分歧,就是拉里·佩奇觉得未来机器人会统治人类,这是历史的必然,他是一个非常达尔文主义者,他觉得人类就是有一天要被机器人统治的。但马斯克说我热爱人类,我不能让这种事情发生。
心智观察所:马斯克热爱人类的想法是从哪里来的?因为我知道这个有效算法(effective algorithm
)和牛津大学教师William Macasco有关。他是何时接触到Macasco的?因为
Macasco也是个年轻人。马斯克是什么时候开始忧天下了呢?
周恒星:这是个很好的问题,其实我也一直在想这个问题,因为他不是一个童年很幸福的人,儿时也一直遭到同龄人的排挤,包括他的父亲对他也有很多精神虐待。他为什么会热爱人类?这个其实我也尝试去找到答案,说实话我没有找到。我其实觉得他更像拉里·佩奇(Larry
page
)一样,我之前问过他,我说你有没有信仰?马斯克的回答说我没有信仰,我只相信物理学。为什么这么一个理性,把物理学作为信仰的人会热爱人类,说实话我不知道。
心智观察所:但其实相信物理学,相信自然法则和热爱人类也没有什么矛盾。
周恒星:但我觉得如果他是一个非常理性的人,他把人类跟其他生物是放在同一个平等地位的话,可能就会觉得我被机器人统治,那也OK。
心智观察所:萨姆奥尔特曼(Sam Altman)、 伊利亚·萨特斯基弗(Ilya
Sutskever)他们两个都是犹太人。但他们都应该都只是文化属性的,不是一直参与宗教活动的人。但会不会文化背景在某一点程度上给予了他们一种非常坚定的信仰?
先讲一讲马斯克,马斯克和奥尔特曼这些带有极客精神的一些人想要去挑战谷歌,因为谷歌财大气粗,而且像DeepMind
也是走在了全世界的前面,就像你在书里面写的,如果我们从后往前看的话,谁有可能做出这个ChatGPT?答案应该是谷歌。因为
transformer
是谷歌做的。他们两个就相当于是后来的一个挑战者,然后因为他们都很喜欢看那种科幻作品,“我们去拯救这个世界,不要被邪恶的大公司给控制”。那为什么这个护戒小队出发之后就中道崩殂呢?
周恒星:我觉得有几方面原因,在 2018 年的时候,马斯克他当时经历了 Model3
的量产地狱,他当时情绪不太稳定,而且那段时间谷歌正在吊打OpenAI,OpenAI
是什么都没有,他们当时也没有找到正确的方向,他们尝试了很多,比如说做机械手臂,或者说去玩游戏,但这些都失败了,一直到
Transformer 这个论文出来之后。
心智观察所:但是那个时候大家都不是做大语言模型的。
周恒星:对,但谷歌就财大气粗,它是可以承受,尝试很多不同的方向,但像OpenAI
其实并没有很多资金,如果他们四处出去乱花钱的话,很快钱就烧没了。但是马斯克也对这个团队失去信心了,当时就说要把这个团队并入到特斯拉里面。当时应该是
OpenAI 的所有人都反对,那时 Transformer 已经出来了。
反对理由就是OpenAI已经找到正确方向,他们已经准备发布第一代GPT。如果马斯克再多呆两个月的话,他看到 GPT 1
的成果,他可能会改变主意,但他其实已经对团队里的进展不太了解,因为他住在工厂里面,而工厂离 open AI
总部开车要两个小时,所以我猜他那段时间就是不怎么去,然后又对他们彻底失望,就你只会花我的钱,然后什么都没有做出来。
心智观察所:但是奥尔特曼那个时候去总部吗?
周恒星:萨姆奥尔特曼就住在旧金山,他跟 OpenAI 总部其实离得很近,我猜他应该知道说 GPT
1快做出来了,所以他也是反对并入特斯拉。但马斯克他是一个很固执的人,他在 2018 年 2
月的时候开了一次会,他还骂了一个实习生是蠢蛋,然后就离开了,再也没有回来。
之后奥尔特曼,他也没有办法,因为没有钱了,但同时他知道快做出来了,所以他就去抱大腿找了微软。但是从马斯克的角度来说,当时做OpenAI其实为了对抗谷歌,结果你去抱另外一个巨头的大腿,他觉得他被萨姆奥尔特曼骗了。马斯克其实并不是因为这些钱,他说不记得他到底捐了多少钱。因为他后面说了好几个数字都不太对,后来有人跟他算了一下,可能就
5,000 多万美元。后面他就改口一直说 5000 多万美元,这可能是有人跟他说之后他才想起来的。
心智观察所:他后面指责说,我们叫OpenAI,但好像做成了一个 Close
AI。他的意思就是我们最开始说好的是开源,你们需要把所有的一切都让大众去使用,不要像 Google
搞DeepMind黑盒化。他这个说法你觉得站得住脚吗?
周恒星:可以看看当时的邮件往来。伊利尔给马斯克发邮件,说开源就开一部分,闭源实际上在某个阶段是更好的选择。马斯克当时好像就回了一个OK,也就是他当时是没有反对的。我觉得他并不是反对开源或者闭源,他反对的是自己失去了对Open
AI的控制权。
心智观察所:他后来好像还说,奥尔特曼掌握了权力之戒,马斯克自己难道他不想要去掌握这个权力之戒吗?
周恒星:其实我在书里面也写到,像比尔盖茨,其实大家都觉得他是一位慈善家,实际上在他的时代里面,30
多岁的时候他打败了所有的竞争对手,是当之无愧的科技界战神,但他在2000
年美国有个反垄断案,当时说要拆分微软,后来比亚盖茨就隐退了,然后就让鲍尔默成为了微软的CEO,但鲍尔默成为 CEO
不久谷歌就出现了。后面就是谷歌一直在吊打微软,而且微软错过了很多机遇,像互联网、移动互联网其实都错过了。
心智观察所:搜索这个方面,像以前雅虎之类的也都做不过谷歌。
周恒星:对,谷歌商业模式也很好,基本上融了一轮之后就可以赚很多钱了,他也不需要投资,后面很多人想收购谷歌也都失败了,所以谷歌就是一直吊打微软,到纳德拉成为
CEO
之后,可能云计算方面开始让微软稍微扳回了一局,因为谷歌虽然也有云计算,但其实不是它的优势。纳德拉觉得应该做一些谷歌还不是特别擅长的东西,就看准了AI,他也说服了比尔盖茨,之后就跟
OpenAI 结盟了。我觉得双方可能互相都有需求,就一拍即合。
心智观察所:它成了一种弯道超车的工具。谷歌有自己的 AI 、微软和OpenAI
也有它们之间特殊的关系,亚马逊有Anthropic、马斯克有个X AI,包括各个国家都有很多公司在做这个内容。现在所有人都在AI
的这条赛道上疯狂的卷。从技术的角度来讲,这些大公司之间,他们相互的厮杀能对我们国内做 AI
的公司提供什么启发吗?他们这些公司的目的都是在追求 AGI 吗?
周恒星:我觉得他们的终极目标还是AGI。 AGI
有点像圣杯,所有人都在追逐它。我觉得国内现在的确是稍微弱一些,不过还是有弯道超车的机会。如果回顾历史,中国科技行业其实一直都是从一个跟随者,然后慢慢超越。从互联网到新能源汽车,
AI 的话,我觉得现在可能差距不会比当年小。
中国人才也是足够多的,但现在目前来看中国更追求的是应用,而不是大模型。在应用层面我觉得中国是有优势的,就看能不能做一些比较好的
AI 应用出来。至于说如果要达到 AGI 做大模型,这可能不是我们的优势。
另外一方面中国还有个优势,就是硬件。中国的供应链可能除了芯片造不出来,其实可以造任何东西,而美国现在其实什么东西都造不出来。中国在这方面是有优势的。在未来,像具生智能需要做的那种机器人,如果要保证量产的话,可能那些公司还要来中国,必须要依靠中国的供应链。
心智观察所:这好像是一个圣杯战争,在美国大家都朝着 AGI 的方向在卷。你觉得你作为一位科技行业观察者来讲,这是AI
的未来吗?这是人类的未来吗?AGI好像不光是科技的问题了,不是一个单纯讲技术的问题,人算什么?人要干什么?因为比如说像辛顿(Hinton),他好像就不太支持AGI。
周恒星:对,他比较看重 AI 安全,不想让大公司垄断整个行业,比如就只有Open AI
获得AGI,获得这个圣杯,然后其他人都做不到,这个时候他觉得很危险。我觉得 AGI
这个事情早晚会发生,而且会很快,虽然现在遇到一些瓶颈,但还是会慢慢达到那个点,我觉得可能速度会超过很多人想象,这会对社会的冲击非常大。
OpenAI的AGI机器人
心智观察所:不做非常垂直类的AI,而是要做通用的智能,让它有人类的这种推理能力。你觉得这个是必然的趋势吗?
周恒星:我觉得这个可能要根据行业来说,其实如果只是需要AGI的推理能力,完全没有必要有个硬件,只要用软件就可以。如果涉及到硬件的话,比如说陪伴机器人,当然就是越像人类越好。而像工厂机器人,其实只能做一个动作。但如果未来它可能不像人类这么智能,但它可以获得智能,可以做很多动作,那就不需要多条生产线,就只需要一条生产线,然后这个机器人可以轮流做不同的动作。这个其实是可以节省成本的,但这需要看行业。
心智观察所:所谓未来能解决万事万物的AGI要回答你所有问题,包括情感陪伴、历史哲学、数学题,还要写程序,人们对他的期待就会影响资本对他的估值。这是一个非常感性的故事。
人类先要有一个想象,然后希望这个想象真的会在现实中间呈现出来,以这个方式推进的话,未来我们是朝着哪条路?
周恒星:如果大模型越来越智能,具身机器人也可以变得越来越聪明,这是需要跟产业结合起来,中国的优势可能更多是产业结合这条路,因为中国的大模型现在稍微比美国弱一些。
心智观察所:奥尔特曼最近被辛顿(Hinton)批评更关心利润,而不是关心 AI 安全。你如何看待利润和安全之间的取舍?
周恒星:我觉得这是两种价值观的冲突,可能
Hinton是学术圈的。我觉得学术圈特别是西加州的一些大学很多受到了自由主义左派的影响,他们应该当年是从一些环保,反战的环境中成长起来的。我觉得学术圈有个问题,对商业缺乏认识,但是从创业圈的角度来说,对于创业者最大就是竞争。这就需要你在竞争里面活下来。
我觉得对于奥尔特曼他们来说,他有可能意识到了安全这个问题非常重要,包括他当时也答应了伊利亚,会给 20%
算力来做超级对齐的问题——毕竟AI的某些情感价值观跟人类不一致。但后面很有可能就是因为跟谷歌和 Anthropic
竞争实在太激烈了,OpenAI必须全力向前,把资源都投入到做大模型里面,所以后面的矛盾就越来越大。其实我觉得这两点都是可以理解的。因为我觉得他作为一个
CEO首先要赢得竞争,这方面压力应该是最大的,而不是像辛顿把这个问题看的这么重。
心智观察所:马斯克也经常考虑安全和人类未来。
周恒星:对,我在书里面其实也写到他在 OpenAI 那段时间,特别是 2018
年的时候他的一些言论,当时他很明显是个有效加速主义者。他当时就一直批评团队,说你们太慢了,要快一点,这跟奥尔特曼是一样的,从一个资本家的角度不断去逼迫团队。但他从OpenAI出来之后就说安全的问题,我觉得这更多的是一种竞争策略。
心智观察所:所以你在书中有一章是提到“硅谷宗教”。历史上的宗教战争,往往也不是为了宗教这件事情本身,而是现实中间所坚持的利益,只不过找到一个理由。
周恒星:对,如果我们看马斯克,他的很多理论包括他描绘的蓝图其实是有变化的。根据他的这套逻辑,终极目标是要把人类送往火星。他把电动车当作是在火星上一个运输的工具,火箭是作为从地球到火星中间的运输工具,X平台就是在火星上的通讯,包括还有一些脑机接口计划。他是有一整套逻辑,里面有他的理想和坚持,当然也有很多其实是为了讲故事。
心智观察所:除了加速主义,还有另一条路线:“有效利他主义”,第一次见马斯克,对他的观感是这样的吗?
周恒星:他当时让我很惊讶,他很看不惯加州那些左派的那些东西,他觉得那是一种很荒谬的价值观,包括觉醒病毒什么的。我记得北斗卫星发射的时候,我发一篇文章给他,他“祝贺北斗”。然后我说你觉得中国会比你们先去火星吗?他说
game on,我们来比赛一下。
【硅谷的未来,从科技到权力】
心智观察所:那你和奥尔特曼还保持联系吗?
周恒星:我跟他主要发短信,马斯克其实很随意,他可能很高兴的时候就会就一直跟你聊,有时候晚上就不睡觉。奥尔特曼可能就是比较官方一些,比较客气。就比如说有一段时间他很忙没有回我,可能下次回我的时候会先跟我道歉,说不好意思,我很忙什么之类的。这两个人就差别还挺大的。
马斯克的性格会更张扬一些,中国有很多读者也会觉得他有更强烈的感染力、人格感染力。奥尔特曼好像也就是ChatGPT火了之后大家会更关心。
心智观察所:OpenAI董事会的宫斗还涉及Helen Toner这个人,以及奥尔特曼对组织的背叛,说他不够坦诚?
周恒星:这个后面我在书里面也写了,2022年年底的时候竞争特别激烈,但是奥尔特曼他临时想出来说我们要做个聊天机器人,而且是在几周之内做出来的。完全没有料到这个会火,他说“我们先做一个有线预览”,发布出来之后就几天之内只有300万人用。我可以理解,就是奥尔特曼当时是疏忽了,并不是真正的不想报告给董事会,但这件事情就是在Helen
Toner看来,就是这个项目就故意隐瞒。
我作为一个观察者来说,加速主义和利他主义这两派我都可以理解。但我有一个观察的角度,如果我们回顾历史的话,其实大部分科技都是中性的,并不是说它是好或者坏,它可能只能通过它的结果来判断它到底是好还是坏。我觉得很多人,特别是一些有效加速主义者,他们会故意美化科技,觉得科技就是向上的,就是解决问题的,他们都是美好的。有效利他主义者可能都觉得科技是邪恶的,然后科技可能大部分背后其实是恐惧和贪婪,我觉得这两派其实说的都有道理,但如果从科技本身来说,它其实是中性的。
就像原子弹一样,它被奥本海默和他团队做出来之后,其实可以毁灭人类,但它也可以带来和平,终结二战,同时它又在后面维持了冷战,其实维护了二战之后半个世纪的和平。
我在这个书的后记里面写到就是我有个观察,硅谷正在成为下一个美国的权力中心。然后我也做了对比,乔布斯那一代的创业者,是那种嬉皮士风格,就尽量远离政治,包括像奥巴马,他想去硅谷见乔布斯,乔布斯就不想见他。而且他们当时聊的话题其实跟政治没有关系,美国的制造业不像在中国制造
iPhone这么容易。在美国做不出iPhone来,他们其实聊的这种东西。
但像马斯克和奥尔特曼这一代的创业者,他们实际上是有非常强烈的政治诉求的,有自己的一整套未来蓝图。不仅仅通过技术,还要通过政治结合起来才能去实现,所以我觉得硅谷其实不再像乔布斯那个时代这么嬉皮士了,越来越变成政治参与者,甚至说背后的决定性力量。
《纽约时报》曾深度分析为何硅谷越来越向共和党靠拢
心智观察所:因为美国是一个全世界占主导地位的国家,硅谷又恰好是美国技术制高点,这么一个这样的发展趋势对全世界来讲意味着什么?
周恒星:我们可能要多关注一下硅谷这些领袖的言论,他们的一些想法很有可能会主导未来科技和社会变革的走向。就像我前段时间看了一本书,赫拉利的《智人之上》。他其实非常忧虑未来人类会被AI控制,他觉得未来5到10年之内就会出现一个AI官僚机构,会通过很多的AI算法控制整个人类,比如你从事什么职业可能都是AI来决定的,这是很有可能发生的。AI参与制造信息、分发信息,就会影响人类的整个决策。
心智观察所:那我们应该怎么办?
周恒星:我觉得很有可能在非常短的时间内,全世界很多白领的工作会被AI取代,比如说就像处理信息的一些白领分析师,或者说在律所里面处理一些文案的人。
未来有几个转型的趋势,一些跟人打交道的比如说像销售这种工作,AI暂时没有办法替代人类。要不然就是你转型做个蓝领,比如说厨师或者说运动员或者那种健身教练;要不然就是你成为一个超级个体,这样你一个人就可以通过
AI 来做很多事情。像奥尔特曼他们,他说他觉得未来会出现一个人的公司,然后产生一年 10 亿美元的收入。
心智观察所::你刚才提到赫拉利。赫拉利经常说,所有的东西都是故事,everything is a
story。你用一张纸去买一瓶饮料,那饮料是经过这么多的加工线、流水线做出来的,他凭什么要给你一张纸呢?就是你相信这张纸币是有价值的,这张纸的价值又是另外一个故事。
AI是可以讲故事的。
你觉得他们有没有受到一种所谓的宗教末世论影响?因为基督教和犹太教都有一个很强烈的末世论倾向,就是说在某一个时间之后要经过一场战争或者最终的审判,然后就通往了一个新天地,人就超越了你的这个个体的血肉的这种东西,从而和神性有一种统一。那什么是神性?是和AI结合了。
周恒星:有效利他主义者,他们有可能跟这个宗教是有结合的。
现在整个硅谷都已经分裂了,不像当时所有人都支持民主党,只有彼得·泰尔一个人支持共和党。现在基本上就是非常分裂了,差不多可能有三分之一支持共和党。硅谷这些
CEO
大部分还是商人,商人其实更多看重的是背后的利益,美国很大程度上其实是商人建立的一个国家。如果我们看硅谷这些CEO的言论,他们只要是在中国是有利益的,他们基本上都是支持中国的。即使是像扎克伯格这样的人,他早年就非常想进入中国市场,非常吹捧中国。我觉得其实他们并没有非常强烈的意识形态,他们更多的是从他们的商业角度出发去做这些判断。
像马斯克,我觉得只要中国还有这么大的汽车市场,我觉得他不太可能主动攻击中国。不过在特朗普政府里可能会左右为难。特朗普可能会出台非常强烈的跟中国竞争的政策。
心智观察所:这么多年你关注科技产业,很多人会说“美国人他们都是独行侠,可以自己捣鼓创新,中国因为强调对权威的尊重,就丧失了一定的创新动力或者说激情”。那么你对这个事情是怎么看的?
周恒星:未来中美两国都会引领世界的创新,我们如果回顾历史的话,之前可能美国的确是会有更多独创性的内容,他们会先走在前面,中国可能就在后面跟随。但我们回到地缘政治紧张之前的那个时代,就是我在硅谷的那几年,比如说2014到2017年,贸易战之前中美之间其实配合得非常好,中国一方面制造业很发达,然后它可以造出东西来,它可以做造iPhone,可以造Model
3,这个是美国它做不来的。
同时中国有足够多人才,硅谷那些大厂里面非常核心的工程师其实都是中国过去的。程序员可能可以做一些非常开创性的工作,但你如果要说一些非常基础的去开发一些东西,考虑到中国工程师的纪律性,还有他们工作的强度,他们的工作热情远远高于美国工程师,他们愿意加班。
如果我们可以继续像以前一样,中美之间可以互相合作的话是很好的,但我们双方如果处在非常对立的情况下,我觉得中国也不是说完全没有机会,要把我们自己的优势发挥到最大。
中国做应用肯定是有积累非常多的经验,特别在移动互联网时代,因为中国人口基数足够大,传统的商业领域可能就比较弱势很容易就被互联网所颠覆。
但美国人他们可能更看重的是做产品本身,他们觉得一个好产品,然后就自然而然会有人用,但中国很看重做运营。
中国运营我觉得是美国人搞不来的,即通过各种方法去做一些推广营销,不过在AI
这个领域,因为我现在暂时没有看到非常好的应用,我觉得未来应该中国机会是很大的。
心智观察所:在美国有一些学院派的人对于AI伦理安全这方面的声音是蛮大的。你觉得中国对这些方面的思考够不够?我们的思维的范式和他们是不是不太一样?
周恒星:我觉得中国在AI伦理这方面的确考虑的没有美国这么多。我觉得主要原因是中国的AI可能更多的是解决实际问题。包括后面资本的推动,包括大公司的参与。
AI安全在中国可能就是需要政府牵头,我觉得大家可能更关心的是 AI 会取代自己的工作。而不是从伦理这方面讨论。
心智观察所:最后我还想请你给我们的读者再简单的介绍一下这本书,说大家能从里面获取到什么样的价值。
周恒星:这本《阿尔特曼传》是我在今年上半年花了差不多 8 个月时间写成了一本有关OpenAI联合创始人的传记。
我在里面主要分了三个部分,第一部分主要是谈论 OpenAI 从成立然后到 ChatGPT 发布这几年,包括就AI
的发展的历史,通过一些故事把它们串在一起;第二部分叫权力的游戏,主要说的就是通往 AGI
道路会是一场巨大的权力斗争。去年我在硅谷经历的那场政变背后其实是有一个意识形态的战争,所谓的“宗教的战争”,我在这一部分花了很大的篇幅把它系统的梳理了一下,包括里面的有效利他主义和有效加速主义他们之间的一些斗争,还有
OpenAI 董事会里面的一些斗争,我觉得这里面可以很好地体现奥尔特曼个人的一些特点,包括他怎么在权力的游戏里面最后胜出。
第三部分我主要是回顾了奥尔特曼在 OpenAI 成立之前, 30 岁之前他创业,还有包括在 YC
做投资的一部分经历。最后面我还有一个终章,主要是我总结了他对未来的一些看法和未来蓝图,从中可以知道未来 AI
会对人类带来什么样的改变,以及我们普通人可以怎么样去应对。总体来讲这本书比较适合大众读者去阅读的,没有什么门槛,然后我也希望大家可以通过看故事一样可以去了解到整个
AI 的发展史。