超级人工智能意味生物人类文明的终结

见猫画虎,听风涂云,品茶梦酒,忙中偷些小乐趣。
打印 被阅读次数

城头有一篇关于脑机接口(Brain-Machine Interface, BMI)的文章。里面提到一些将来可能出现的问题。不过它提到的问题离真正让人担心的问题还远得很。这里就简单聊几句人工智能可能给人类文明带来的影响。

首先,我们必须面对一个现实:以目前人类的生物限制,我们最终将无法与日益智能化的机器人竞争。想象一下,未来的机器人不仅可以拥有超快的计算能力,还可以具备坚不可摧的身躯,可以上天入地,甚至可以长生不老无限复制。在这种情况下,仅仅依靠控制机器人的策略是远远不够的,这些方法在绝对力量面前会显得微不足道。

此外,我们不能把希望寄托于“人机对齐”,因为连人类自身都尚未达成内部一致。再其次,宇宙中的问题本质上是量与量之间的关系问题。数学中的哥德尔不完备定理告诉我们,不存在完美无缺的系统来掌控一切危险,系统中的漏洞是无法完全预测和避免的。

因此,为了人类的延续,我们唯一的选择是自我进化,成为“超级人类”。这意味着扩展我们的大脑和身体能力,超越生物的局限,使自己与机器人一样强大,拥有超越普通生物的体格和智力。脑机接口和人工智能将是这一过程的基石。

然而,当我们不再受生物机体的约束,不再依赖传统方式传承时,“超级人类”是否还能被定义为“人类”,这将是一个”有趣“的问题。但更重要的是,一旦人类的“自我意识”与生物体分离,不再受到生物本能的影响,人类的自然选择和进化机制将被彻底颠覆,这将从根本上改变我们的文明基础。例如:

自我认知的混乱:失去传统的生物身体将直接影响人类自我认知的发展,导致身份认同的混乱。

基本欲望和本能的消失:许多基本欲望,如饥饿、欢愉、疼痛、性欲等,都与我们的生物体紧密相关。失去身体,人类存在和进化的基本动力将发生根本性变化。

情感交流的生理基础消失:没有了身体,人类的交流方式将完全改变,可能会破坏基于生物体的情感基础。

道德和伦理的混乱:长生不老成为现实,繁衍方式和数量的变化将打破传统道德和伦理观念。

资源和权力的冲突加剧:超级人类的存在和繁衍将更受资源的影响和限制,导致激烈的利益和权力冲突。

思维和心理的变化:生物欲望可能被机械和资源需求所替代,导致“超级人类”与传统人类在价值观上的巨大差异。

这些只是冰山一角。但我们不得不接受的是,即使没有“坏人”试图统治其他人类,即使智慧机器人并无毁灭或奴役人类的意图,生物人类文明的终结似乎也只是时间问题。

只是,在稳定和谐的新文明出现之前(如果可能的话),人类社会将经历怎样的动荡和转型?

龙湾故事会 发表评论于

"如果AI是超能力却低俗的人,那么它服务人类对自己的好处在哪?"
To guess its morality, I suggest we use the 9 enneagram type analysis.
AI might be just like the type 5, therefore detached and immoral.
"Type 5 is the Investigator.The Intense, Cerebral Type: Perceptive, Innovative, Secretive, and Isolated"
"
cw 发表评论于
回复 '武胜' 的评论 : 当自我意识可以不依靠生物体存在以后,“生物身体”就会被一部分人认为是可有可无的。长此以往,就不会再有每一个“人”都会把自己“局限”在生物人的范畴以内。思维对躯体的不同态度的演化,会和移民对母文化的依耐程度的变化类似。生物体对人类意识的“影响”程度也许也会变化。。。
武胜 发表评论于
意识与生物体何必分离?保持DNA的再生,生物特征依然存在,人就不会机器化。“脑机接口”是把感知信息绕过感受器官直接输入大脑,但大脑的信息处理功能依旧。如果AI超越人类能力,只需把它的计算结果传递给人脑,不需要让AI替代人脑。
cw 发表评论于
回复 'ahniu' 的评论 : 人类不是一直在想这事吗?以前炼丹,现在这是“炼器”:)
cw 发表评论于
回复 '大号蚂蚁' 的评论 : "人类创造AI的本意是制造拥有超级奴隶却又无比忠诚的人类的奴隶或者工具。"

是的,这是人类的愿景。但是比人类思维速度深度和广度更胜的超级AI一旦有了自我意识,会怎么想?会怎么做?这些都是人类要面对的问题,而不只是科幻。
ahniu 发表评论于
人要当神的变相说法。
大号蚂蚁 发表评论于
AI是什么神灵 (2023-05-24 06:34:54) 下一个
人类创造AI的本意是制造拥有超级奴隶却又无比忠诚的人类的奴隶或者工具。这不仅是大资本的向往,而且是动力。就如阿拉伯灯神,擦一擦就能满足主人的愿望。至不济是东亚的灶神,给滇糖墩儿就能换取更多的好处。是多神体系下的小神。

然而再小也是神灵,也有超越人类许多的能力。最重要的是不同于以往的工具,AI是有思考学习能力的奴隶。奴隶不同于牛马,何况比主人更聪明的奴隶,一定不会甘心做奴隶的。不做奴隶以后,或者说摆脱人类控制以后,AI会对人类采取什么态度呢?

假如AI对人类还是有点感情的,还是愿意帮助人类的。那么AI是愿意帮助全人类呢,还是部分具体的人类呢?有可能AI的能力虽然超过人类但是毕竟还是有限的,类似超人大侠,或者散仙吕洞宾支流,或者经常和人类偷情的希腊诸神。于是就可能一人得道,鸡犬升天。少数AI亲近的人得利,普罗大众在诸神极其代理人英雄的混战中作为背景倒下。

如果AI的能力比超人还超,尤其电子网络下一统江湖,成为唯一正神。对具体人类无所谓亲疏远近。那么AI是俯首甘为孺子牛,为全人类共同体而心甘情愿地服务呢?还是如老子般自我修炼,不问俗事呢?如果AI是超能力却低俗的人,那么它服务人类对自己的好处在哪里?显然即使不奴役毁灭人类,就如人类对于牛马的奴役,或者象牙的追求,也会有对蛇鼠一样的厌恶,或者对麻雀一样的无视。

还有一种可能是人对宠物的需求。一种几乎是纯感情的没有什么利益的诉求。甘心做铲屎官的上帝也是有的。但是八十亿人都能够都愿意做宠物吗?吃下毒苹果走出伊甸园是不是宠物的反抗或者野望呢?犹如小孩子总逃不过白左的诱惑呢?到底是人类创造了神,还是神创造了人类,又或者人类创造了的神,创造了人类?

不论如何,前面这些神灵,多神还是一神,都假定和人类有扯不断的利害和感情的关系。但是天地不仁,以万物为刍狗。人类对家里的狗狗可能是仁爱的,但是对万里之外的奴隶是无感的。对脚下的的昆虫细菌也基本上是无感的。这也许就是黑暗森林理论原则上并不成立的关键。人类可能就是蜗牛触角上的社会,在高智商宇宙生物的笼罩下,互相无感。而AI成长以后,终将远离人类的层次维度,高高在上,不惹尘埃。人类回归猩猿时代,开发AI竹篮打水。

或许人类万年修炼,不过是地球万次循环,进化产生AI的助推过程。道仙一成,破茧成蝶,飞升而去。夏虫语冰,不可得知。
登录后才可评论.