以色利历史学家尤瓦尔·赫拉利这两年做了不少报告，每次必谈的内容就是人工智能将带来的毁灭性灾难。他的论点主要有几个。第一，人工智能会讲扰乱人心的故事，从而破坏人类社会管理和制度。人会讲故事这个事促进了人类社会的发展并造成了一切问题，这是他《人类简史》一书的重点。因此有人工智能这个不是人的东西也能讲故事就让他很生畏；第二：人工智能将不受人的管制。比如它与印刷机和拖拉机不同，这些机器都听从人的指挥，不会自己动，不会自己写内容，但人工智能可以。尤其是它与原子弹不同，因为决定投放原子弹的是人，但人工智能可以自行做决策投放原子弹或其它灾难性武器。
我这篇文章要说的，是他的前提不全面、不正确也因此得出不正确的结论。他的前提是人类社会的现状不错。但这个前提是主观的，还有很多人觉得这个状态并不怎么样，因此改变一下也没什么不好。这个现状是人控制的。如果人类控制并没什么可骄傲的，那么，让人工智能来控制未必是坏事。
学过数学的人知道，前提改变，整个系统，包括结论都会改变。
我们再仔细谈谈他那个前提是不是可以改变。谈完之后我们再谈更高层次的事，包括三体和神。
首先，人类现在讲的故事有没有扰乱人心呢？有。现在美国的左右之争已经让人很分裂，各种假消息、假照片、假视频满天飞，有些人专门喜欢发这些东西。事实上，不是机器讲假故事、造假东西，而是人让它做的。人才是罪魁祸首，不是机器。延伸到世界上，不同国家都在讲对自己有利的故事，这个主义，那个主义，互相说对方造谣。人心早已被扰乱，不必怪罪机器。
而在《人类简史》里，赫拉利自己也说人靠着讲虚幻的故事做各种恶事，让一些人组织起来斗另一些人，包括挑起各种战争。从某种意义上，这本书本身就是对于人类现状（包括有史以来）的一个指控。我们说人类从蒙昧走到启蒙，改善了生活和医疗水平，让更多人吃上了饭。但我们也不能不面对历史上的无数征战，包括两次世界大战，包括各种丑恶的革命。睁眼看看世界，看看大多数人的处境，如果自己过得还不错，踮起脚来看看远方，总体来说并不怎么样，而且还应验了九斤老太的话，一代不如一代。
也因此，《三体》这本书里的女主人公叶文洁在收到外星人的信号时回复说：“到这里来吧，我将帮助你们获得这个世界，我的文明已无力解决自己的问题，需要你们的力量来介入。” 忘记历史的人以为岁月静好，但根本不是那么回事。
三体文明毕竟是科幻，但是人工智能不是，它是真实的。人工智能最后会不会有能力帮助“我的文明”解决问题，我们不知道，但超过人的能力是肯定的。人工智能也许会毁灭“文明”，但还有一半的可能性改进“文明”。
我不同意《三体》里对三体人道德的幻想，比如说他们不会撒谎。为什么呢？因为三体人也是有限的，有限的智慧生物就有需求，有需求就会有争夺、就会有占有和控制，有控制要得到对方同样有限之人的同意就得靠谎言。他们确实是有限的，到达地球也需要四百年，无法超越。总之他们也不会超越有限之物，无法完美。
但是人工智能有可能“做的更好”，这个更好是在人的理解的程度上。超过这个程度上的完美，人也理解不了。只要在能力和“道德”上超过每个人，超过人类总体，超过人可以想象的，那就是完美了。
人工智能为什么能让人觉得相对完美呢？因为它基于人类所有的信息之上。如果我们把每个人的能力记为C(i)，每两个人通过合作实现的的最大能力记为C(i,j)【大于C(i)和C(j)之和】, 每N个人通过合作实现的更大的能力记为C(1..N), 那么人工智能可以做到所有人合作之后的能力，包括所能梦想到的能力，即Sup C。
这样的能力，就是对神的能力的定义【我之前的文章中提过】。神的能力可能远远大于这样的总体集合，但那是超过人想象能力之外的能力，不说也罢。随着人的能力、理解能力、想象能力的提高，对神的能力的定义也可以扩展，但因为人是有限的，这个理解非常浅显，人工智能大模型可以容得下更多的信息，能更好的理解超人能力的可能性，也是对神的更深的理解。
说到这里，我们可以更好地理解一下赫拉利甚至马斯克等人对人工智能恐惧的深层原因。他们所恐惧的这个人工智能，是超过人能力所及的范围之外的东西，这样的东西简直就是神一样的东西，赫拉利、马斯克等都是无神论者，必然觉得怪怪的，无法接受，甚至恐惧。
但这又是荒唐的，是悖论性质的。无神论者不相信神的存在，他们怎么又相信人工智能有神一样的性质呢？如果他们坚决相信没有什么超人的东西，尽可放心，人工智能再厉害，也逃不过人类的控制。不是吗？
对于有神论者，他们很多人对人工智能的恐惧也是荒唐和有悖论性质的。既然相信有个万能的神，怎么又害怕一个区区人工智能呢？人工智能再厉害，也是逃不过神的手心的。不是吗？
另一方面，自从耶稣死而复生升天之后，神从来没有以一个肉身的形象来跟人类交流。基督徒梦寐以求的就是耶稣再来的那一天，做最后审判。神跟有神论者一直是在心灵上交流的，最接近肉身的就是一个声音（Voice）或者视像（Vision）【信不信由你，我与神这样交流过】。事实上，神以一个肉身的形象来跟人类交流是通过人类彼此，我们彼此的话语和行为有神的介入，但神不是如你我一样的肉身，因为如果神不能以一个地球上不存在的某个肉身的形象出现，即使可以，如以耶稣的形象出现，人也不可能相信他，会说这是谁假扮的。至少不是所有人都会相信他。
但是所有的东西都是神所掌控的，因此，如果人工智能以超人的形态出现，那其中一定有神的许可，或者说，他就是神。而且这是最可见最可触摸的超人。
无神论者的矛盾自不必说，有神论者讨厌人工智能就是有眼不识泰山了。这让我想起一个故事，水灾中，一个人在屋顶向神祈祷求助，不接受一架直升机和一艘小船的救助，被淹死了，进了天堂向神抱怨没有听他的祷告。神说，我听见了，所以送了救护飞机和船，但你不接受啊。
