--有感于电脑“大师”扫平世界围棋大师--
继谷歌电脑软件“阿尔法狗”战胜围棋大师李世石之后,最近又传出电脑软件“大师”扫平世界围棋大师的60连胜战绩,震惊了世界。
之前,在“阿尔法狗”战胜李大师之后,我已经发表了“人脑和电脑”一文,论述我对人机关系的看法。这个看法也适用今天和今后。
我的观点其实几十年前已经形成,当时电脑还不普及,更别说人工智能。这里把我多年以前写的文章附在后面,供大家参考。 原标题是“机器智力和人的智力”。我检查了一下,发现只要修改一句话,其它文字都还有效(这一句话,也不是文章关键)。这说明,在人机关系上,在哲学观点上,我的观点没有改变。
这次电脑“大师”的表现,对我最大的启发就是,电脑不再局限于学习,模仿,概括,总结,完善和系统化人类棋手的经验,而是按照自己的逻辑建立算法。也就是人类思维与电脑思维是不同的。人脑与电脑各有优势和劣势。
当然电脑的“思维”还是来源与人,只是不是来自棋手,而是另外一些人—电脑软件的设计者。他们利用,操控电脑与赤手空拳的人比赛。后者敌不过前者,一点也不奇怪。就像一个无枪的年轻人,打不过一个有枪的老年人一样。何况电脑背后还不是一个人。
===============================================================
【机器智力和人的智力】
这个问题引起很多人的兴趣。前几年,我给同学出毕业论文题目时,其中之一是“机器智力与人的智力”,引起许多同学的兴趣。注意,这个问题的提法也是有讲究的。一般比较耸人听闻的提法是:“人会受机器控制吗?”或者“机器能否超过人?”但这样的提法本身是不科学的。因为什么叫“超过”,本身就先要搞清楚。所以我们用一个没有倾向性的提法。用常识来说明机器不可能否超过人是不行的。如果你说,机器的程序是人编的,机器是受人控制的,所以机器不会超过人。这无法说服对方。他可以说,的确,机器的程序开始是人给的,但以后,机器可以自己学习,进化,从而超过人。如小孩可以超过大人。现在机器已经做了许多过去只有人才能做的事。具有“学习”能力的机器也已经有了。如果你说人的某一特定能力机器还没有,他们会说,的确,目前机器还不能做到这一点,但将来可以做到。凭什么说永远做不到呢?只要把问题充分分解,加以形式化,就可以用计算机来做。复杂的东西总是可以分解为简单的东西。
一些理论文章回答这个问题是不能令人满意的。他们往往论述人脑如何复杂,如何精巧,以此说明机器难以达到。这只能说明难易,而不能说明可否。我想最好能像证明永动机不可能一样,形成热力学第二定律。这样才能根本上解决这个争论。历史上曾经有许多人醉心于永动机的制作,白白浪费了青春(是否也促进了热力学第二定律的发现?)。对物质,有物质不灭定律与能量守恒定律。对信息,智力,是否有相应的定律呢?
去年,国内出版了一本译著,“计算机不能做什么?”作者是美国加州柏克莱大学哲学教授。当初我思考这个问题时,明确认识到这是一个哲学问题,要求从哲学上回答,而不是从技术上讨论。当时国内并没有哲学家介入。这本书的出版,说明这的确是个哲学问题,国内哲学家也介入进来了。社科院已经列了专题,说明这个问题不是简单能够回答的。
为什么要讨论这个问题?
我想对这个问题的正确理解,有助于我们的方向和工作。比方,如果本质上机器与人不是一回事的话,我们所建造的机器人就没有必要模仿人的形状。在研究先进软件时,人们也发现,人机合作是更为有效的方式。有些事情人做起来很容易,而机器做起来很费劲,我们也没有必要追求不必要的自动化。
科学哲学是一个很有意义的问题。牛顿的书名叫“自然哲学的数学原理”。当初科学与哲学不分。现在,自然科学博士还叫PhD。Ph是英文哲学的简写。现在的争论,历史上不乏类似的例子。一种新技术出现,人们或是过低估计它,对新生事物挑剔,阻碍。或是夸大其作用到不适当程度。其中,包括著名科学家。牛顿定律有着极大普遍性。于是,牛顿希望把一切归结为他的公式。世界无非是机械运动。然而,自然界的运动不仅是机械运动,物理运动,还有化学运动,生物运动。后者不能归结为前者。它们与机械运动有本质的不同。大脑运动尤其是高级运动。
对人工智能问题,有三种观点:
1。乐观派。以图灵为代表。1972年,一个英国人搞了一个调查,给英美63个控制论专家问卷。你认为再过多少年可以研制成与成人智力相等的计算机?结果如下:
5年以内 0
10年以内 1
20年以内 19
50年以内 37
所以,认为50年以内可成的有57人,占90%。
2。悲观派。以美国斯坦福气大学哲学教授德雷福斯为代表。他认为人工智能是现代炼金术。
3。中间派。认为不管人机能力有鸿沟或无鸿沟,但我们离边界还远,希望做实际工作。也就是暂时不参与这种争论。
图灵在1950年于美国Mind杂志发表“计算机和智力”,挑起了这个问题。他提出一个图灵试验来区分人和机器。他的意思是,如果试验者无法区分人和机器,说明机器已经有了人的智力。
我是不承认他的试验的。这种试验类似于“存在就是被感知”的唯心主义。有限的试验是无法区分人和机器区别的。我认为,机器“智力”与人的智力根本不是一回事,这种试验也没有意义。
图灵为他的观点辩解。
比方,哥德尔不完全性定理说,任一形式系统均有局限性。图灵说,还可以有更高明的机器。但更高明的机器哪里来?还不是要靠更更高明的人?
有人主张在图灵试验中,做算术测验。机器由于死板,所以永远正确,而人总究会犯错误。所以,犯错误的说明是人,从而可以把机器与人区别开来。图灵说,机器也可以安排一些错误来迷惑你。
这是诡辩。机器错误不是无意的,偶然的,而是固定的。所以,从设计角度看,这不是“错误”,而是“正确”。而且,“也”和“安排”,说明什么?不是机器在无意犯错,而是人在有意造“错”,以应付试验。
还有人说,机器不能意识到自己在思维,与人不同。图灵说,这是唯我主义观点。你要知道一个人是否意识到自己在思维,只有成为那个特定的人才行。
这也是诡辩。人难道不知道机器没有思维?
中国古代也有类似故事。孟子与粱惠王游于濠粱之上,看水中之鱼。孟子说,你看鱼多快活!粱惠王说,你不是鱼,你怎么知道鱼快活不快活?孟子说,你不是我,你怎么知道我不知道鱼快活不快活?这样可以无穷问下去。
马希文在“人工智能的极限--计算机不能做什么?”一书序言中列出了三个要计算机处理问题的必要条件:
1。形式化。
要计算机处理问题,要把非形式化变为形式化,这是人的能力。如果把这一过程本身形式化,又存在着如何实现这个过程的形式化问题。如此可以递归。如果说先验地存在一个原始形式系统,这是不符合实际的。如果说,我们可以把问题领域逐个形式化,最后达到全面形式化。这还是有问题的。当计算机遇到某个问题时,计算机如何判别这个问题属于哪个领域?
2。不可判定性
用计算机判断事情,只有命题为真时,才可以在有限步内判定。而当命题事实上为假时,不可能在有限步内判定。结果无限搜索下去,永远报告:“现在还不真”,但永远不能判定它为假,因为也许下一步可能判定为真。虽然你可以设计新的形式系统,但机器不知道应该在哪个形式系统中去搜索。
3。计算复杂性
对任何算法,机器必须在合理时间内完成,才有意义。有些问题虽然原则上可以用机器实现,但需要天文数字的时间,其实等于无解。因为要实现这个计算,先要制造出千万年不腐烂的机器!
下面谈谈我的一些看法。
1。比较标准
什么叫机器超过人?即怎样估计机器和人的能力?要说机器超过人,早已是事实。汽车代替人腿,走得比人快得多。起重机代替人手,力气比人大得多。但没有人说汽车或起重机超过人。人的主要能力在于智力。单靠体力,人打不过一头野兽。但利用智力,人可以主宰世界。人的能力主要在控制。人和老虎谁厉害?从控制意义上,人厉害。人也控制机器,包括人的智控制机器的智。
2。控制与独立
人控制机器,但不意味着机器不可以有一定独立性。有时看起来机器控制人,比方,进入地铁,不刷卡,门不开。但这是设计者控制使用者,物化的人控制自然的人。这是人与人之间的一种约定,不是机器有灵性,反抗人的控制。机器可能失控,这一般是局部的,暂时的。失控是一种无规律,无目的行动。当年陈伯达说,让猴子在一台打字机上随便跳,一万年之内,也许会打出一篇莎士比亚文章。我大概估算了一下,根本不行。打出来的“文章”,许多可能全部是标点符号。
有人说计算机不一样,它能自己学习。其实,从人和机器关系来讲是一样的。计算机不是天方夜谭中放在瓶中的魔鬼,放出来以后,就控制不了了。后膛枪发明以后,有人说,今后再也不会有战争了,因为可以把人像小鸡一样,一个一个枪杀。事实并非如此,因为人不会等着被枪杀。如果这样,用菜刀,石头也可以一个一个把人全杀死。这是一种形而上学的观点。只强调物的能动性,把人的能动性凝固起来。正像人对自然有一定的能动性,但这是相对的。这就是人的局限性。作为人造物的机器,与人的关系也是这样。它只有相对的能动性。如果光强调形式逻辑,强调偶然性,那末,即使没有计算机,也可能产生可怕后果。某个国王的消化不良可能引起一场战争。一个烟头可能毁灭世界。
3。不断增长与无限增长。
我们说计算机能力有限度,但又不好定量描述,究竟界限在哪里?我们不能给出静态的回答。奥运会百米记录目前是9.79秒,以后最少可以多少秒?10年,100年,1000年后呢?很难回答。但如果你说5秒,恐怕没有人会同意。但逻辑上很难驳倒。人们可以相信,这个时间会越来越短。两种结合起来,可以得当这样的结论:不断增长不等于无限增长。数学上叫做有界单调函数。也就是有极限。飞机的速度不断增长,但不等于无限增长。火箭比飞机快,但那是另一种东西,它也有自己的界限。乐观主义者们混淆了不断增长与无限增长的界限,从而夸大了计算机的力量。
4。相对有限与绝对无限
我们说,计算机能力有界,是指一定形态的计算机能力有界。但今后可以有更好的计算机或其它形态的智力机器。从这个意义上讲,机器的能力也是无界的。但这不等于机器可以超过人,因为人也在进步。对人的任何特定能力,机器总可以在某一天达到。所以,要从总体上,动态上,相对上把握,而不是孤立地谈某一点上机器不如人。不要“防卫型”辩解。你说机器超过人,我不说哪一点你超不过,而强调人是一个动态目标。当机器超过原来的人时,人已变成非人或“超人 ”。你只能说,未来的机器可能超过今天的人。
系统化的方法论,说起来容易,用起来不容易。
例如,假定我要你吃500个饺子,你肯定拒绝。那我请你吃10个饺子,你不会拒绝吧?不过,当你吃完以后,再加一个,行不行?你很难说不行吧。这样,步步进逼,各个击破。推出你一次能吃500个饺子。所以要从总体上观察,而不能孤立看问题。哲学上中国人的所谓“飞箭不动”原理,也是如此。
5。量与质
计算机能否“进化”?有人说,机器进化速度比人快。实际上,他是在对“进化”一词偷换概念。机器发展不是独立的,与人一样的进化过程,而是依赖于人而发展。它的发展体现了人的发展。
世界上是否存在除人类的进化以外的另一种进化过程?毫无根据。
大脑运动,生物运动,能否归结为物理运动,机械运动?质转化为量,在一定条件下是可以的。超过一定界限,又成为质的问题。如计算复杂性,看起来是量的问题,实际上成了质的问题。
对人的大脑本质还不清楚,怎么把这种能力交给机器?
人还有躯体与自然作用,从中获得知识。
人还有社会联系。
这些都是机器没有的。
人获得知识不是一个逻辑推理过程,与电脑完全不同。
许多事情很难告诉机器。比方,除了形式逻辑,还有价值标准,道德,心理等一系列问题。比方,房子失火,要不要救?一般当然要救。但如果在拍电影,你去救就犯傻了。在战争中,房子着火救不救?敌我立场正好相反。要把这一切告诉计算机,谈何容易。从哪里可以看出,从某一点出发,机器可以自己学会这些东西呢?
总之,人类为什么要发明一个东西来控制自己呢?人的行为是有目的的,除非失控。如果要造出人的等价物,人类的繁殖已经如此,何必费那么大劲制造机器人?人造机器是为了弥补人的不足,使人获得更大的自由。
说机器超过人,也缺乏历史和现实根据。
1959年,Samual博士的跳棋程序战胜了自己,引起轰动,好像说明机器能够超过人。这问题怎么看?下棋虽然是比较复杂的智力活动,但还是比较容易形式化的东西。机器赢了人,并不能说明机器超过了人。因为写这个程序,作者可能化了几年时间。而作者与自己程序比赛,只是几小时时间。所以,这是长期的Samual战胜了瞬间的Samual,是物化的Samual战胜了自然的Samual。如此而已。所以,Samual本人并不认为机器超过人。因为他知道设计这个程序的甘苦。如果他设计更好的下棋程序,战胜原来的下棋程序,那又说明什么?
学习程序可以看作是一个在线自改进程序。原设计是个开放系统,可以不断加入新设计。这不能改变机器由人设计,受人控制的事实。正如太阳能驱动的机器,可以不断从太阳中吸收能量,但不等于永动机。从上述事例,看不出计算机怎么能突然脱离人的控制,独立进化。正如德雷福斯所说,一个人爬上一棵树,就能说自己离月亮更近了吗?
总之,这个问题涉及很多哲学问题:
1. 有限与无限。
2. 相对与绝对。
3. 静态与动态。
4. 偶然与必然。
5. 量与质。
6. 人与物。
等等。
我认为,计算机只是一种工具,如同其它人造物,电视,汽车一样。智力机器会普及,就像传统机器普及一样。所谓计算机“思维”,“学习”,“进化”,“智力”等等,这些名词可以用,但与平常的含义有本质不同。不能因为你给了这些名词,它就有这些内涵。自来水,如果没有水塔,水泵,它不会自己流出来。自行车,脚不蹬,不会走。计算机也可以叫电脑,但仅仅是一种形像化说法,与人脑完全不是一回事。正像豆腐脑,它的定义是,一种形状像脑的豆制品,而不是“会思考的豆腐”。