我们正生活在一个由科技统御一切的时代，随着人工智能技术的深入发展，科技对我们的控制只会越来越严密。
和我们的父辈相比，各种包和口袋已经不是出门的必备单品，你可以两手空空，身上空无一物，但绝对不能没有手机以及网络，这意味着你与这个世界彻底失联。
在知识图谱上，对科技进行深入批判往往由科技哲学来完成，但在一个由算法驱动的时代，这需要更多人的关注，因为它关乎我们每天的生活，以及整个人类社会的前景。
前不久，著名作家、媒体人洪晃在法国巴黎与《智人之上》的作者、历史学家尤瓦尔·赫拉利教授进行了一次长达一个小时的深入对谈。
尤瓦尔·赫拉利（左）与洪晃（右）
这是一次精彩的思想碰撞，金句频出，两人从996、算法、美国大选这些日常生活中常见的具象话题逐步深入，探讨了AI对人类的威胁，以及什么是智能，什么是道德等话题。
最终上升到了哲学的终极之问，面对AI，我们不得不开始思考，人类存在的意义到底是什么？
两位嘉宾用丰富的细节为我们回答了那些经典的根本问题。
尤瓦尔·赫拉利认为，从长远来看，我们没有办法与人工智能竞争，因为人的大脑是有限的，人工智能却将历经几代人，几个世纪，甚至几千年的发展。
AI时代，真正重要的是人类去探索自己的意识和思维，再一次去理解生活中痛苦和幸福的深层根源，这就是存在的最终意义。
这是一篇阿信极少发布的万字长文，但其中的思想深度和厚度，值得收藏下来满满品味。
AI是历史上第一个能够
真正创造新事物的机器和技术
洪晃：
赫拉利教授的系列作品是我过去十年读过的最有启发性的书，而且我认为对中国的读者来说也是极具启发性的。
我觉得对于中国人来说，过去一个世纪的发展是如此迅速，理解人类历史的发展以及我们是如何走到这一步就显得非常重要。
因此我相信您今年推出的这本新书——《智人之上》会大受欢迎。希望我们的对话能启发中国读者，并且鼓励他们去更好地理解您所描述的信息系统。
我想从这个问题开启今天的对话：我觉得您在《智人之上》中谈到的一些概念，除了那些对于西方哲学有所了解的读者，对于其他中国读者来说不是很熟悉，其中一个非常重要的概念就是“主体间现实”，请您先来谈谈。
赫拉利：这个开场的概念解释确实很重要，我很乐意说明。
这个词看上去有点唬人，但它的意思其实很简单。我们大多数人都知道现实有两个层面，即“客观现实”和“主观现实”。
客观现实是独立于我们想法的存在，与人类所认为的和相信的无关。很多自然规律：比如重力，在历史的大部分时间里人们并不知道重力，但它依然在那儿维持着这个世界绕着太阳旋转，尽管人们相信世界是静止不动的，所以这就是客观现实。
主观现实是存在于我们自己头脑中、情感中、信念中的东西，如果我感到疼痛，这就是一种主观现实。世界上没有其他人能感受到这种疼痛，我能感受到，这就是我的主观现实，如果我不再感到疼痛，它就消失了。
但在历史上，一些最重要的东西是介于两者之间，它们是主体间的，一个很好的例子就是钱。
让我们来想想钱是什么。钱不像小行星或重力那样是客观的。但是很多人相信它仍然是有价值的。为什么这张纸有价值？你不能吃，因为它不是食物；你也不能喝，因为它没有客观价值。但是如果我去超市把这张纸给陌生人，他们就会给我一个苹果。
所以钱不是一种客观现实，但它也不是主观的，因为这不仅仅是我的信念，要让钱起作用需要很多人同时相信它，这就是主体间现实。
不只钱是主体间现实，比赛规则或一个国家的法律也是，它们不像物理定律那样，即使人们不相信也起作用，但它们也不是某一个人的梦，需要数百万人相信这些法律，它们才能起作用。
在宗教和神灵方面也是如此，神灵其实并不存在，它们不是一种客观现实，但如果数百万人相信同一个神灵，那么它就会变成非常强大的东西，对现实产生很大影响力。
洪晃：在《智人之上》中，您提出人工智能时代的一个主要担忧是计算机间的现实将与人类创造的主体间现实共存，这是怎么做到的呢？
赫拉利：这听起来很复杂，但实际上并非如此。
几千年来，我们生活在人类思维创造的现实中。无论是金钱、神，还是任何比赛规则、国家法律，这些都是人类创造的。我们发明了事物，我们互相交谈，我们写书，写诗，写戏剧，这就是我们创造这种共同的主体间现实的方式。
世界上没有别的物种能做到这一点。我们创造了许多工具和机器，但没有任何机器能够创造新的法律，创造新的神，创造新的货币。比如让我们想想印刷机，它能够印刷书籍，能打印我的想法，但它不能产生新的想法。
而现在，人工智能和计算机是不同的。人工智能是历史上第一个能够真正创造新事物的机器和技术。人工智能可以写一本书，现阶段，这些书也许不是很好，但它却是一本完全由人工智能写成的新书，而不是人类书籍的副本。
人工智能可以开始创造新的法律，创造新的货币。你知道，理论上到目前为止所有加密货币，比如比特币，都是人类发明的。我不太确定它们在中国有多大影响力，但现在在西方它们变得非常流行。
像比特币这样的加密货币的价值取决于人类的想法，这就是为什么它非常受政治事件的影响。比如特朗普当选美国总统，比特币立刻升值，为什么？因为人类的想法。人们相信特朗普支持比特币，所以他会放松金融市场对比特币监管，于是比特币会升值。这些都是人类的想法。
如果现在计算机和人工智能开始发明新的货币类型，那么会发生什么呢？现在世界上大部分的钱在哪里？世界上的钱不再是纸张或硬币，它只是计算机中的信息。
如果人工智能开始发明新的货币类型会怎样？金融将是人工智能的理想游乐场，因为它是纯粹的信息世界，只有信息。这就是金融市场上发生的所有事情，货币、债券、股票、证券交易都只有信息，而人工智能能比人类更好地玩转这场金融游戏。
没有人能跟踪金融市场上发生的所有不同的事情，信息太多了，但人工智能可以，所以人工智能很有可能在金融市场中扮演越来越重要的角色。人们将赋予它们权威与权力，去做决定，去投资，然后人工智能系统可能会开始创造新的金融工具。
货币只是一种金融工具，所以这是一种计算机间的现实，一种主体间现实，你、我，以及许多其他人，我们通过交流和互动来创造货币，我们所有人都相信这种货币，那么它就可以流通。
现在我们面临一种情况，数以百万计的计算机，数以百万计的人工智能可能会进行交互、交易，并创造我们所不能创造的新型货币，我们人类甚至无法理解这类货币。
这就像马不理解我们的货币一样。千百年来人们一直用钱买卖马匹，但马无法理解发生了什么。
现在你可以让人工智能系统对我们的生活做出决定，比如你向银行申请贷款，一个人工智能系统决定是否给你贷款，而我们无法理解。
真正重要的不是智能，而是意识
洪晃：《智人之上》中提到了另一件令人担忧的事，我认为您在采访中和书中都多次强调了这一点，那就是：智能和意识之间存在差异，而人类拥有意识，也拥有智能，但在效率方面我们的智能根本无法与计算机相比。
所以在这方面，如果计算机、计算机间的现实，正在以我们像马一样无法理解的速度迅速向我们走来，那么我们如何提升意识，以便在没有意识的纯粹智能之上拥有更多优势？
赫拉利：当下我们仍然拥有很多权力，仍然拥有控制权。
但也许首先我们应该再次解释一下智能和意识之间的区别，因为人们往往会把它们混淆。
智能是追求目标的能力，以及在实现目标的过程中解决问题的能力。它可能是一辆汽车需要到达某个目的地，并在路上进行空间导航；它可能是下围棋比赛时的目标是赢得比赛。在此过程中你需要解决许多问题，这就是智能。
而计算机人工智能现在比我们更聪明，至少在下围棋这样的细分领域。早在八年前AlphaGo击败李世石时就很清楚，在围棋世界，人工智能比我们更聪明，它能更好地解决问题。
意识是另一回事。意识是感受事物的能力，痛苦和快乐是最基本的感受，还有更复杂的感受，比如爱、恨、悲伤等等。人工智能和计算机什么感觉都没有。
当AlphaGo与李世石对战时，它并不对结果感到焦虑；当它赢了比赛时，它并不感到高兴；当它输了比赛时，它只是输了一场比赛，它并不感到悲伤，什么感觉都没有。
人类不仅拥有感受，而且在我们体内，意识和智能是相互交织的。因为我们决定目标的方式以及我们解决问题的方式都基于我们的感受，我们往往会把这两者混淆。
许多人认为所有的计算机都有智能，那么它们也一定有意识。但它们没有，至少现在没有。它们没有任何感受。但现在的问题是即使它们没有感受，它们也在越来越多的领域变得比我们更聪明。
一开始只是像下围棋这样的小事，但之后可能会是金融领域、金融系统，在这种世界上如此重要的部分中，人工智能系统会比我们更优秀。
如果人工智能在军事领域也能更优秀，会发生什么？不仅仅是士兵，还有指挥官，然后我们让人工智能控制军队，这太危险了。这已经在发生了。
所以，巨大的挑战摆在我们面前，如何保持我们的掌控力？
归根结底，生活中真正重要的不是智能，而是意识；不是解决问题的能力，而是情感。你为什么想要解决所有问题呢？就是因为我们的情感。
比如你有一个医疗相关的问题，你想要解决它以拯救某人免于死亡，免于受到某种疾病的折磨。为什么呢？因为疾病不仅会让患者痛苦，而且会让他们的家人、朋友痛苦不堪，感到悲伤。所以整个伦理和道德领域都是和情感相关的。
道德不是要遵守某位神的律法，或者布道，而是要将人们从苦难、痛苦中解放出来。这就是道德的全部意义。
我们如何摆脱苦难？这是道德层面的问题。现在的人工智能系统没有任何道德观念，因为它们不会痛苦也不会快乐，它们没有情感。
通过这种方式，让我们再次思考，意识是什么？意识是一种体验痛苦的能力，但也是从痛苦中解脱出来的能力，这是道德伦理的核心问题。目前而言，人工智能系统没有情感。也许在未来它们能够发展出情感，然后它们也会有道德观念。
而我们正在面临的问题是我们如何保持对人工智能的掌控，以确保它们做出符合伦理的决策。我们不能把伦理问题交给人工智能，再次强调，因为它们没有道德观念，它们没有情感。
长远来看，人类无法与AI竞争
洪晃：我记得人工智能第一次成为公众关注的焦点是很多人热火朝天地写书来展望人工智能的未来。就像动画片《杰斐逊一家》中想象的未来世界，是如此的乐观。
人们常说的一句话，在中国尤其流行，那些捡垃圾和打扫街道的脏活累活从现在开始都将由人工智能完成，而人类将会腾出时间去创造美好的事物，比如写作、唱歌、拍电影之类的。
但是实际发生了什么呢？事实并非如此，因为人工智能似乎和人类产生了冲突。
人类和人工智能之间的第一次冲突出现在好莱坞的编剧协会，他们因为大公司在使用人工智能而抗议和罢工，所以那种认为所有的脏活、累活都将由人工智能来完成的轻快感好像是错的。
我们不得不面对一个残酷的事实，那就是有创造力的人反而是第一批被人工智能威胁的人。
赫拉利：是的，我认为有两点应该明确。
首先，人工智能仍然有巨大的积极潜力，否则人们不会再次去开发它，医疗保健就是最好的例子。
人工智能可以为我们提供历史上最好的医疗保健，它不仅可以发明新药物，还可以创造出数百万的人工智能医生，24小时随时可用，它们阅读了全部的医疗文献，可以记住你的全部既往病史，这是任何人类医生都做不到的，潜力是巨大的。
但是它也像每一项新技术一样有着威胁和危险，其中最大的威胁之一就在就业市场。很多人认为至少创造性的工作不会受到人工智能的影响，事实证明这是完全错误的。
人工智能很难做洗碗的工作。因为要在一个满是人的餐厅里穿行，拿走盘子而不打碎它们，然后把它们拿回去，需要运动技能和社交技能，才能在复杂的物理环境中进行交互。
相比之下，人工智能在单纯处理信息、不需要与物理世界交互，以及创造大量创意性的作品时表现最佳。比如写一本书就是纯粹的信息工作。对于越来越多的这类创造性工作，人工智能实际上可以实现自动化，甚至做得更好。
人类犯的主要错误是认为意识对于创造力是必不可少的，你必须有情感才能有创造力。
当然，这取决于我们对创造力的定义。对创造力最普遍的定义是，你能够理解一种模式，然后打破这种模式。比如在音乐方面，你听过很多以前的音乐，你了解了写音乐的模式，然后你打破模式，改变模式中的某些东西，这就是创造。
人们说人工智能在音乐方面并不是真正具有创造力，它只是把人类的音乐进行组合和改变，因为实际上这个过程正是人类作曲家所做的事。
贝多芬、莫扎特、披头士或者其他音乐家，他们都不是从零开始的，他们听了很多以前的音乐，理解了音乐的模式，然后想如果我改变这个，会发生什么？这就是创造力，而这是人工智能甚至比人类都做得更好的事情。
人工智能在模式识别方面非常出色，而且一旦它识别出模式，它可以改变它并打破它，这就是创造力。在有些领域中，人工智能比人类更有创造力，虽然目前还比较少。
围棋也许是最著名的例子。在过去的8年里，围棋发生的变化比之前800年还要多，因为人工智能发现了人类从未想到的新策略。所以在围棋方面，人工智能比人类更有创造力。
在音乐、文学方面情况还不太一样，因为它们更加复杂，但人工智能尚处于人工智能革命的最初阶段，我认为10年或20年后，我们没有理由怀疑人工智能写书或作曲的能力，它们的创造力将与人类相当，甚至更胜一筹。
洪晃：那么在那种情况下，我们该怎么办？
赫拉利：我们应该更深入地审视自己，了解什么是真正的本质，作为一个人什么是真正重要的。
答案并不是智能。就智能而言，我认为从长远来看，我们没有办法与人工智能竞争，因为我们的大脑是有限的，人工智能将会历经几代人，几个世纪，甚至几千年的发展。
但人类真正重要的是意识，即使音乐或诗歌之类的东西，人工智能可以开始比我们更具创意地创作音乐，但我们没办法让人工智能去体验音乐，这是只有人类具备的体验，类似的体验不仅是听，还有演奏。
比如你弹钢琴是具有价值，并且可以获得乐趣的，人工智能可以比你弹得更好，但你没法把弹钢琴的工作交给人工智能。它不能代劳这种快乐，快乐就像人际关系一样，你不能让人工智能取代你与家人和朋友的关系，那是没有意义的。
所以我认为一直以来重要的是人类去探索自己的意识和思维，再一次去理解生活中痛苦和幸福的深层根源，这就是存在的最终意义。至少目前，这是人工智能完全无法做到的，因为它没有意识，没有心灵。
我们在发展人工智能以及发展我们的智能方面投入了很多，忽视了发展我们的意识，但实际上对于人类来说这才是真正重要的。
算法破解了人类思维
让整个社会出现精神疾病
洪晃：因为中国的社交媒体与西方相比仿佛处于一个平行宇宙，电子商务正在蓬勃发展。
但你经常能在中国的社交媒体上看到的一个争论：吸引人们购买的强大算法，尤其是直播，正在取代许多实体店，所以很多人觉得人工智能和人类的第一场战斗会发生在中国的零售业。
因为由于社交媒体的蓬勃发展，制造商和零售店店主正在被挤出市场。
现在是我们质疑资本主义运作方式的时候了吗？因为一个开放的市场总是倾向于奖励效率最高的人，而算法显然证明了它比实体店、夫妻店或制造商等更有效。
赫拉利：所以关键问题是目标是什么？目的是什么？如果你只想要最高效的服务，那么算法将会越来越多地接管，但在很多领域，体验比效率更重要。
谈到价值，比如说当你想要购书时，也许你在网上买书更容易，但在历史上，书店提供的是一种体验，这比买书的功能重要得多。
也许你去书店遇到了其他人，你只是逛逛书店这个实体空间，然后邂逅了一本你甚至从未想过要看的书，这是由于书店实体空间的布置方式让你偶然遇到。
我记得当我还是学生的时候我会去大学图书馆，我只是在书架间漫步，从这里拿点东西，从那里拿点东西，这是一种实体体验，这无法真正被复制。
我的意思是算法或许可以有办法直接带你去你想去的地方，但最有趣的事情往往是途中意外发生的。所以再次强调，在某些情况下我们只需要效率，比如你生病了，你需要有效的治疗，效率是最重要的，但在另外一些情况下不是。
这与另一个非常重要的正在发生的变化有关，简单来说就是生活的节奏。
人类和算法之间存在着非常大的差异，人类是有机生命体；算法是无机物。我们按周期工作，白天与黑夜，夏天与冬天，生长与衰败；我们有活动时间、休息时间和睡眠时间。
我们往往比算法慢得多。算法要快得多，它们没有周期，它们从不休息，它们从不睡觉，它们比我们快几个数量级。
当人类和算法接触时，一个移动得很慢，一个移动得非常快，那么谁去适应谁？现在世界上正在发生什么？在很多领域，比如商业和社交媒体等领域，人类被迫因为算法的速度而行动得越来越快，因为这是算法的节奏。
洪晃：电子商务是全天候在线的，凌晨3点醒来你就可以浏览和购买，有些人专门在半夜向失眠的人推销。
赫拉利：确实是这样的。在以前，商店都有关门的时候。即使你考虑市场，我们刚刚已经谈了很多关于金融市场的事情，或许你想到了像华尔街这样的地方，华尔街实际上只在周一到周五上午9点半到下午4点开盘。为什么呢？
因为在传统上，银行家也是人，他们晚上想睡觉，他们有家庭，他们想度假，他们想庆祝节日。然而，算法不需要睡觉，它们没有家庭，它们不去度假，所以它们全天候工作。
这对银行家、投资者、商业、社交媒体的压力就是不要睡觉，不要去度假，就像算法那样全天候工作。但是，这样对人类的幸福和健康是具有破坏性的。
如果你强迫一个生命体、一个动物、一个人一天24小时都保持活跃，最终他们会崩溃和死亡。
我们无法跟上算法的节奏，它们非常高效。如果我们需要，我们有必要让它们慢下来，降低效率，因为如果我们被迫像它们那样工作，我们就会崩溃。
洪晃：你在《智人之上》中指出社交媒体的另一个问题是，大多数社交媒体公司，无论是在中国还是在西方，他们给算法定下的目标都是流量，算法只需要尽可能地创造和产生流量。
不幸的是，人类喜欢负面的、耸人听闻的或糟糕的信息。我认为我们可以讨论为什么会这样，但很显然，算法真的可以学会这么做。
赫拉利：是的，算法基本上破解了人类的思维，就像破解电脑一样破解了人类大脑。
如果你想要破解电脑，就去寻找代码中最薄弱的环节。所以算法找到了人类思维代码中最薄弱的环节。
如果你想吸引人们的注意力，让他们留在平台上以产生更多流量，你就给他们展示一些让他们生气或者让他们害怕的东西，那么他们就会紧盯着屏幕，这样流量就会越来越多。
但这会传播愤怒、恐惧和愤慨，导致不仅是个人，而且是整个社会出现精神疾病。
如果你整天摄入垃圾信息，你的思维就会生病，这是有进化方面的原因的。回到十万年前的热带草原，你穿过森林时并不是每时每刻都有蛇，你可能走几个小时都碰不到蛇。但是一旦有蛇出现，你就会小心起来。
而现在在社交媒体上，每时每刻都有“蛇”，就好像他们发现了如果想吸引你的注意力，就需要给你展示“蛇”。每次你看到一条“蛇”就会引起注意，因为这是我们生来就有的反应机制。
于是，他们创造了一个虚拟的、人为的现实，其中充满了恐惧、愤怒和贪婪，不断吸引着我们的注意力。短期内流量的聚集可能对相关公司有好处，但对于个人和社会来说，这是具有破坏性的。
现在信任正在崩溃
这是一个恶性循环
洪晃：你这本书的内容，我觉得有很大一部分是在讨论关于社交媒体、算法、人工智能和政治，以及它们如何影响我们的社会的。
这是我读过的最深刻的读物。我认为每个人都应该读一读结语，明白在黑暗尽头有光明。
结合近期美国大选情况，您认为算法和人工智能是如何在美国选举中发挥作用的？
赫拉利：我认为影响并不是直接的。影响是通过营造一种特定的社会心理环境，因为很明显，唐纳德·特朗普是恐惧、愤怒和仇恨的候选人，这就是他在竞选活动和演讲中谈论最多的内容。
对我来说关键的问题是，如果他是愤怒和恐惧的候选人，为什么美国人会如此愤怒和恐惧？哈里斯带着希望和喜悦的信息，特朗普带着愤怒和恐惧的信息，为什么他们会选择愤怒和恐惧？
当你看美国的时候，它是世界上最强大的国家。
在经济方面它是最大的经济体，它的经济正在蓬勃发展；它拥有世界上最强大的军队，在军事方面它仍然是世界第一；它在人工智能竞赛中处于领先地位，就像科技公司大都在美国的加利福尼亚州、得克萨斯州等地。
为什么世界第一的国家会如此恐惧？部分原因是那些算法的存在。
运行社交媒体的算法多年来一直在向数百万人灌输愤怒和恐惧，所以尽管人们知道现实，但并不是对现实做出反应，而是对他们所知道的现实画像做出反应。现实画像可能与现实完全不同。
我们并不是真的生活在现实中，我们生活在一个信息茧房里。传统上这是由人类创造的，现在越来越多地是由算法创造的，并且信息比现实更重要。
洪晃：这就是说我们正在这个茧房里吞噬信息吗？我知道你曾建议信息节食，那应该怎么运作呢？
赫拉利：信息就像食物一样，过去信息很稀缺，人们会接收他们能找到的任何信息和任何书籍。
现在信息超级丰富，我们被太多的信息淹没了，其中很多是垃圾信息，这些垃圾信息是被人为地填充了仇恨、贪婪和恐惧，使其具有成瘾性，这就是算法所做的事情。
我们不需要完全避开信息，事实上，我们需要信息。读书、看新闻是有好处的，但对我们来说，少接收点信息也是好事。我们不是需要大量的信息，而是高质量的信息。实际上我们需要花更多的时间来消化这些一味接收的信息。
这又和食物一样，想象一下有人整天都在吃东西，不停地吃，胃就没有时间来消化了，所以这就和你只是不停地浏览所有信息，信息进入大脑而大脑没有时间来消化它一样。
所以你需要信息，需要时间来接收信息，之后还需要时间来反思、分析、思考这些信息，这就是一种平衡的信息节食。
洪晃：当你说到高质量的信息时，我会想到有一些被人们称为传统媒体的媒体公司。但是就当下而言，媒体的信息传播有了很大的不同。
当你进行信息节食时，最好的方法是什么？或者说这意味着什么传统媒体仍然是优质食品？
赫拉利：我认为对我来说，至少有两个问题和要点很关键。
首先，比起短篇我更喜欢长篇。有时候你看信息只看标题，但如果你真的想了解一些事情，读一本400页的书比看很多短视频要好，因为在短视频中，你无法深入。
另一件事是，你如何判断信息来源是否可信。这么多的新媒体，你怎么知道它是否值得信赖？仅仅因为它是写出来的，仅仅因为你看到了视频，但并不意味着它是真的。
这里要问的问题是，自我纠正机制是什么？自我纠正机制是系统内的一种机制，它一直致力于识别和纠正系统本身的错误，而不是其他系统的错误。看到别人的错误很容易，你如何看待自己的错误？
很多社交媒体的动力仅仅是为了获得流量，所以它们有动机说最耸人听闻的、最愤怒的、最可怕的事情来获得更多的流量。如果它们犯了错误，它们就没有动力说昨天发布的文章不是真的，实际上是搞错了，所以这些信息渠道不值得信赖。
也许我们真正要问的问题是，你错在哪里？告诉我你以前犯过的错误。如果你问一位科学家、物理学家、生物学家，请告诉我生物学的重大错误，他们可以给你一长串他们过去做错的事情。
但如果你问某个机构、某个人，告诉我你过去犯的重大错误。他们说我们从不犯错。请永远不要相信那个人或那个机构。
洪晃：所以你一定有接触到，或者有很多大型人工智能开发者寻求与你的交谈，比如ChatGPT、山姆·奥德曼，他们会向你承认他们的错误吗？或者说这个你们的对话是如何进行的？因为你或多或少谈论起他们。
赫拉利：他们中的一些人非常关心正在发生的事情，他们愿意接受这种对话。但是他们不断地回到一个话题，那就是：技术竞赛。
他们说，是的，我们知道我们犯了错误，我们知道我们正在做的事情是危险的。我们知道我们实际上需要放慢速度，关注安全，更加谨慎。
但另一家公司或另一个国家的竞争对手，他们不会放慢脚步。如果我们放慢脚步，他们将赢得人工智能竞赛。所以他们说如果我们放慢速度，只意味着最无情的竞争对手会赢，所以我们必须快速行动。
当你和他们的竞争对手交谈时，竞争对手也会说同样的话。他们还说，是的，我们知道这很危险。我们想慢下来，但我们的对手并没有慢下来，所以我们也不能。
每个人都被锁在这种“军备竞赛”的心态中，这很难打破，因为真正缺乏的是人与人之间的信任。当他们无法信任其他人的时候，他们是在赌他们可以信任人工智能。
不幸的是，在过去的10到15年里，我们看到世界各地信任的崩溃。21世纪初，世界上充满了信任。现在信任正在崩溃，这是一个恶性循环。
当信任越少时，人们就变得更有竞争性，更无情，更自私。每个人，每个公司，每个国家都只考虑自己。然后信任就更少了，情况越来越糟。
洪晃：这是一个恶性循环。
我想以一个积极的方式结束这次对话，谈谈你在本书结尾谈到的“共生的人际关系”。什么是共生关系？我们如何发现共生关系？
从历史的角度来看，它似乎比愤怒和仇恨更强大，或者是因为历经数万年人类已经生存下来了，我们如何重新发现那种关系？
赫拉利：尽管和陌生人建立信任很困难，但显然我们可以做到。因为在10万年前，人类生活在50或100人的小部落中，他们几乎从不与部落以外的任何人合作。今天，我们有像中国这样十几亿公民密切合作的国家。国家之间有很多国际合作。
虽然我们通常关注紧张局势和竞争，但是，在经济、科学和医学方面，我们仍然有很多合作。
我们吃的很多食物都是世界另一端的人种的，我们使用的工具，拯救我们生命的药物往往是世界另一端的人发明和生产的。如果没有与大量我们从未见过的完全陌生的人合作的能力，我们就不可能有这样的文明。
也许我们不会说这种语言。一些有竞争心态的人，他们幻想着完全独立：我不想依赖任何人，我想要完全独立。但这是一个纯粹的幻想。世界上没有什么是完全独立的，我们吃的食物、穿的衣服、喝的水，一切都来自其他人的努力。
当然，不仅仅是人，就像我们呼吸的空气，吃的食物，如果没有动物、植物、生态系统、太阳，我们就不可能存在。
宇宙中没有什么是完全独立的。当你遇到这些争强好胜、冷酷无情的人，他们认为“我会变得异常强大，我不会再依赖任何人”，他们只是在四周制造破坏，最终，他们也毁灭了自己。
所以每个人都需要有一个非常基本的认识，但这很难。
