杂谈 - 3 - 震撼!美丽!终结人类的发明!?



 

 

我从小就对各种棋类游戏具有兴趣,围棋,象棋,国际象棋都会下一点。我依然清晰记得二十年前,IBM的DeepBlue(深蓝)击败国际象棋世界冠军卡斯帕罗夫所引起的轰动,不过好像那一事件并没有震撼世界。国际象棋(还有象棋)基本是一种逻辑游戏,人们凭直觉认为计算机可以凭“蛮力”(比如穷举法)打败人类,深蓝并没有“智力”,尤其是自己学习的能力。这次Hassabis带领的DeepMind进行了开创性的人工智能研究并取得巨大突破,貌似已经破解围棋这一历史难题,实实在在地震撼了全世界,因为围棋虽然有很多逻辑在其中,棋手很多时候是凭着感觉做出决定的。围棋到底有多复杂? Hassabis 说可以用一种方式描述围棋的复杂性:围棋棋盘上的所有可能的组合的数量比这个宇宙中的所有原子的数量还要大。这次DeepMind的突破与DeepBlue(深蓝)相比是革命性的。

 


信誓旦旦捍卫人类尊严的卡斯帕罗夫被深蓝击败 (1997)


 

 

最近的DeepMind击败围棋世界冠军的确太震撼了!也的确太美丽了,因为实现它的背后一定有美妙的策略与优美的算法!这同时也太可怕了,因为它有可能是人类的最终自掘坟墓?!

 

39岁的Hassabis的确是一个天才。他四岁开始下国际象棋(比我儿子早几个月),十二岁就成了大师,十几岁就自学游戏编程并设计出开创性的具有学习能力的游戏,而且大大热卖。后来,为了研究人脑到底是如何工作的,他卖掉公司回到剑桥大学(校友,粘点光哈)等大学完成博士学位,研究神经网络。毕业后创立他的人工智能研究创业公司DeepMind,聚集了大量世界顶级数学,人工智能等领域的人才。 DeepMind2014年被谷歌以6.25亿美元收购,对于Hassabis来说这个并不重要,因为这样的人赚钱从来不是他们的主要目标。他们开创性的突破是在于他们开发的是具有自学能力的通用人工智能AGI (artificial general intelligence),可能是针对任何问题的元解决方法meta-solution).

 

关于教育

Hassabis是移民后代,在伦敦芬奇利一所公立综合学院上学,分别取得了剑桥大学和伦敦大学学院(UCL)的计算机科学和认知神经科学学位。与他一起工作过的人都认为他是一个“有远见”的管理者。Hassabis认为他发现了一种“让科学研究更有效率”的方法,并提到他正在领导着一个“21世纪的阿波罗项目”。他长相如此平凡,是那种你在街上不会看第二眼的人,但是他在不同领域取得的成就让人们不得不认为他是这个星球上最聪明的人之一。

 

人们都希望自己的孩子聪明并受到最好的教育。我觉得,当人们仔细看了他的这个演讲之后,很多关于孩子教育的问题就有了很好的答案了。如果你没有,那就看第一遍第二遍第三遍吧。这个演讲令我十分着迷:

https://www.youtube.com/watch?v=rbsqaJwpu6A

尤其注意其中的两个游戏例子。

(国内读者上不了油条,可以在油库上搜 DeepMind CEO)

 

 

 

关于改变世界

极其聪明的人可以改变世界,可以为人类为社会带来进步,他们也可以为人类带来灾难。希望Hassabis的人工智能(AI)的突破是前者。显然它在医疗等很多方面有巨大的潜力。不过,今天人们对人工智能的担心显然已经达到甚至超过对原子能技术(核武器)与生命复制技术的担忧。如果像史蒂夫·霍金、比尔·盖茨、埃隆·马斯克 等伟大的科学人物对人工智能的担忧成真,人类的末日似乎不远了。这些对当今世界有着巨大影响的人物都认为人工智能会达到或超过人类的水平,并担心人类可能失去对它的控制从而遭受其害。

 


人类快要彻底投降了?樊麾二段在一月份被彻底打晕了。那时我就预感人类不妙了,因为机器通过自学可以大笔二段,打败九段指日可待。果然它在三月份就完胜人类当今最高手。


 

 

DeepMind 的创始人之一Shane Legg曾经在2011年明确表示:“我认为人类灭绝可能会发生,而技术可能会是罪魁祸首之一。”当代如日中天的埃隆·马斯克最近将人工智能技术方面的进步描绘成人类在 “召唤恶魔”。这位SpaceX创始人、特斯拉和PayPal联合创始人也是DeepMind的早期投资者之一,但并非为了赚钱。 “我不在乎为了投资而投资, 我把钱投给DeepMind的唯一原因就是想要更加了解人工智能的进展和危害。如果我们不认真对待人工智能,一旦发生了什么不好的事情,银行存款也会变得毫无意义。”他捐献了大笔的资金给未来生命研究所(FutureLife Institute),支持确保未来人工智能的研究有益于人类。

 

James Barret 于2010年写下了【人类最后的发明】一书并于2013出版。我不知道如今知道DeepMind的惊人成就后他会有何反应。

 

当今顶尖人工智能科学家Stephan Weiss虽然没有这么悲观, 但他 也承认如今的智能机器比人类发明的蒸汽机具有更大的摧毁性,人类必须严肃思靠并训练“机器伦理”。设想一下如果让一架配有炸弹的无人飞机自己选择目标并作出攻击决定,那的确是一件可怕的事情。让人做出这种决定已经够可怕了。具体该如何做?StephanWeiss也没有答案,他只是说,世界上有那么都聪明的人,一定会有办法的。

 

史蒂夫·霍金等在2014年发表公开信称:“Whereas the short-term impact of AI depends on whocontrols it, the long-term impact depends on whether it can be controlled atall”(人类近期担心的问题是谁来控制人工智能,未来它也许会脱缰而去!)

 

我的问题是,如果AlphaGo是自学围棋并在两个月内从专业两段跃升超九段(人类是无法实现的),那么如果让自己在学习下去会是什么结果?也就是说它的极限是什么?

 

儿子今年即将离开家开始独立的大学生活。儿子的数学与国际象棋水平都远在我之上,也了解一点AI,但是他好像对AlphaGo一无所知。今天让儿子看了上面Hassabis的演讲,然后我们讨论了一下。他说,有人说可以用人工智能来管理社会,他不以为然。因为机器没有情感,而社会是由具有情感的人类组成的。人是按着上帝的形象造的,人乃万物之灵。人类的唯一希望就在此了。

 


【版权声明】

文章属于作者原创,版权归 “磐石品牌” 所有。

转载请注明出处公众号: Rock_wordsfromheart  

探讨问题请联系微信号:1274264498

isuiyi 发表评论于
不就象机器开了挂?

所有AI自己学习的规则是不是都是人“告”知的?到底还是为人类的需求服务的。

什么时候AI能捕捉到人类还未理解的东西,那才是在该领域需要恐慌的时候--个人觉得这一天永远无法到来。

所以在AI研究中,注入防止“无法无天”的规则,算自我安慰吧!
yfz9465 发表评论于
这结果仅说明,机器以自之长克人之短。又怎么能得出这结论?这种观点是反映“我思故我在”的局限了。哲学在西方死亡,它使得两个极端容易产生,逻辑自大与逻辑恐慌。如果文明仅仅是逻辑,那哲学本体不存在,机器的确比人聪明。

哲学本体是:共同点上的智慧,而非差别处的理念。
登录后才可评论.