昨天向Siri问了几个问题，查询了天气，新闻和餐馆等琐碎事宜，她都给出了满意回答。最后我突发奇想，问Siri：“我前一个问题是什么？”，Siri 沉默不语，显然不会回答这个问题。之前有奇奇怪怪的问题她都会幽默地岔开，这个问题却让她down掉了。程序员显然没有编入程序来记录问过的问题。这个当然不算是一个bug，但充分说明了Siri尽管和人沟通看起来很像是有智能，但她还是局限于既定程序，连最基本的逻辑思维能力都没有，离着人的距离还很遥远。
有人会说，Siri的设计原意就不是人工智能。那么打败世界上顶尖围棋高手的阿尔法狗（AlphaGo）算不算人工智能？阿尔法狗虽然赢了，但它（我不知道是雄是雌所以不知道该用他还是她）知道“赢了”是什么意思吗？会高兴吗？甚至它知不知道它正在下棋或下过棋吗？有了这些“感知”或“意识”，才能算得上是有和人一样的智能，否则就是一台运算能力远远超过人类的计算器。有一个著名思想实验叫“中文房间”（Chinese Room），由美国哲学家John Searle在1980年提出。这个实验中Searle假定他（一个只会英文的人）身处一个房间之中，这间房间除了门上有一个小窗口以外，全部都是封闭的。他有一本英文版程序书，房间里还有足够的稿纸、铅笔和橱柜。写着中文的纸片通过小窗口被送入房间中，Searle可以使用他的英文程序书来找出这些中文问题相对应的中文答复，并照葫芦画瓢写在纸片上递出小窗口。虽然他完全不懂这些中文的意思，Searle认为通过这个过程，房间外的人都会以为他会说流利的中文。电脑就是这样工作的，电脑虽然完成工作比人类更快跟好，却不会理解和感知它自己在做什么。
以前普遍认为电脑算法（algorithm) 和机器人只能取代人类高效地做一些重复性的工作，创造性的和艺术性永远是人类的领域。但现在看来完全不是这样，人工智能已经可以写出流畅的文章，可以谱出优美的乐曲，可以绘出精美的美术作品。艺术品之所以有高昂价值，是因为有两个特质，原创性和稀缺性。人工智能可以在瞬间创造出成千上万的各不相同的精美艺术作品，每一件都是原创，每一件都是唯一，但是不是还有高昂艺术价值？尤其是这些艺术品的作者没有意识，根本不知道自己在做什么，更不可能有创作的热情和成就感，这些作品还有价值？
人类对“意识”有比较清晰的定义，英文有多个单词来代表这种能力，consciousness，sentience，或者qualia，读者只要上网搜一搜就会找到大量解释。但意识是怎么产生的来？现在人类自己还没有搞明白意识的产生机理，就是说对碳基础生命的意识产生机理一头雾水，更无从谈起能预测硅基础电脑算法到一定程度能否产生意识。不管哪种生命形式，只有产生了意识，才能感知自我存在，才能有思想，才能有主观的企图心。如果人工智能不能产生自我感知的意识，算法再强大，即使发展到能取代人类的所有工作，也只能是人类的工具。反之，如果人工智能产生了自我感知的意识，那怎么可能臣服于智力体能都劣等的人类，即使人类是他们/她们的造物主。
