AI，美丽新世界？养虎为患？

AI，美丽新世界？养虎为患？

 

有一个有意思的广播节目，Freakonomics Radio，是2005年出版的畅销书Freakonomics的产物。不论是书或Podcast都引人入胜。不久前有一个分成三部分的系列谈AI，从AI能不能说笑话，会不会抢了你的工作，直谈到AI改变的世界里有没有你的一席之地。范围很广，但也都只是高空鸟瞰的角度而已。

 

其中最让我惊奇的是，他们谈到了如何训练AI，训练比建立LLM（Large Language Model）更费劲，当然不是说建立LLM有多容易，毕竟花了上亿美元，但那也只能算是一个昂贵的仓库，储存了几乎所有当今世界已知的各种形式的知识，除了文字档也包括了语音和影像。

 

有了这样庞大的知识库，机器仍然只是机器，毕竟知识不代表智能，It knows everything but understans nothing。他们从最简单的文法输入开始教AI造句，AI吐出来的都是毫无意义的句子，就像天才语言学家Noam Chomsky为了解释语法(Syntax)和语意(Semantics)所创造的名句：Colorless green ideas sleep furiously，文法完美无缺，但是完全不知所云。

 

然后他们玩猜字游戏教AI文字的关联性，比如给一个指令：「这一段文章第一段的第一个字是什么？」下一个指令：「猜猜第二个字是什么？」。这样的成果我们早已开始享受了，我使用拼音输入法在苹果手机上按下这几个字母myjsy，第一个选项就是「明月几时有」，当我选了「明月几时有」，立即出现的下一个选项就是「把酒问青天」。

 

尽管如此，ChatGPT 3.0之前的版本，吐出来的句子仍然是非常的粗鲁无礼，甚至包括各种歧视字眼。该怎么教导机器学习礼仪？其实和教小孩也别无两样，两者都必须有规范。他们用联合国的人权宣言，苹果的服务宗旨等为范本写了五大张的AI「礼仪规范」，开始教导AI什么样的语言违反规范，什么样的语言是可以被接受的。

 

说到这就不得不提最近的一种新行业叫做Prompt Engineer，他们的工作就是和AI互动，比较知名的有Ana Bernstein，她写了不少诀窍怎么让ChatGPT提供更接近理想的答案，重点是必须提供完善的背景/情境（Context）描述。 Prompt Engineer，虽然也是工程师，和传统工程师的背景却大相径庭，他们具备更灵活的创意与人文素养。

 

理工学院训练出来的，多半都是一群被规格限制住，讲死理做苦工的人，比如码农。有高功能自闭症的Temple Grandin 博士也嘲笑过矽谷隐藏了许多自闭者。我特别同意，我就是不善跟人交往，才选择和电脑朝夕相处。那知，AI竟然让我也不知道如何跟机器打交道了。

 

为什么能不能说笑话是一个里程碑？ Dr. Jane Goodall强调黑猩猩和人类非常像，它们会彼此搔痒玩闹，黑猩猩也会怕痒大笑。关于笑闹的相似度，也仅止于此，它们是绝不会说笑话让其它黑猩猩哈哈大笑的。写笑话虽然有一定的公式可循，但是也像文法一样，不是在正确的地方代入正确的文字就可以组成一句有意义的话。

 

Dr. V. S.Ramachandran 在 《The Tell-Tale Brain》书中进一步解释笑话的深层意义。他说笑话里的主角有各式各样的倒楣，但必须是无关紧要，不伤害人的倒楣，否则就不是笑话而是悲剧了。这就牵扯到什么是区别人与非常人的要素。一般人看见别人踩到香蕉皮滑倒了，也许会毫无顾忌地爆笑。万一那个滑倒的人撞得头破血流，除了毫无同情心的非常人，谁还能笑得出来？

AI能不能有这样的识别能力？

 

想起我最喜欢的StarTrek：The Next Generation里一个我很喜欢的角色，Data，一个拥有庞大知识库和非凡判断力的机器人，一步步慢慢学习让自己拥有人性。幸运的是，环绕他的都是「好人」。

 

Data毕竟是杜撰的人物，我不知道人类将来有没有能力创造出一个和他一样的实体。但是我相信，如果不对AI的发展有明确的严格规范，那会是一个让人担忧的未知。