诺奖肯定的人工智能也能糊弄人类



媒体长期都说圣路易斯男孩Sam Altman是AI之父,因为他创办的OpenAI公司所推出的ChatGPT彻底改变了AI的影响规模。

我当时就质疑这AI之父的称呼,给一个斯坦福退学生让人情何以堪?我们都不能以此鼓励学生了。昨天诺贝尔物理奖授予普林斯顿已经91岁的荣休教授John Hopfield和早已非常著名的多伦多大学教授辛顿,这已经为AI之父正名,开创学科的基础科学家才是最重要的。



我们两次到访苏格兰的爱丁堡,很喜欢在那里的时光,分享些在中世纪古城拍的照片。我们每次都在Royal Mile和王子街散步,在所谓的皇家英里街的坡下,就是美丽的爱丁堡大学,她的古老校园培养了今年的诺贝尔物理奖得主辛顿。



苏格兰是盛产文明巨星的地方,我们这次不谈Adam Smith, 以及在爱丁堡大学读过书的英格兰人达尔文。

我们总说苏格兰为英格兰贡献了麦克斯维尔,因为他从苏格兰去剑桥建立了电磁理论;英格兰为苏格兰贡献Higgs, 他是发现了上帝粒子的内向绅士,为在苏格兰工作的英格兰人。

辛顿也是在英格兰的剑桥读的本科,换了好多专业,最后以心理学主修毕业。他还做过木匠,直到去爱丁堡大学获得人工智能的博士学位。辛顿是世代的优质基因传承,但是跟他结婚也悲催,好几任太太都是患癌去世,但愿现在的伴侣无忧。



辛顿的教授名份挂在加拿大多伦多大学,其实他也应该是英裔美国科学家,他的获奖电话都是在加州便宜的旅馆接的。他在去年才辞去谷歌大脑主任的职务,担任谷歌副总裁长达十年之久。他的非常重要的职业道路也是在美国完成的,在UCSD做完博士后返回英国,迅速发现英国没钱和不是做学问的地方。他因此回到UCSD做了半年的访问助理教授,然后去匹萨堡的CMU做助理教授和副教授。

最终因为政治的原因使更左倾的辛顿被多伦多大学挖去做正教授,他培养了很多优秀的人才,包括OpenAI的首席科学家。辛顿办公司后, 仍然必须南下去美国湾区,因为自己的公司后来被谷歌收购了。



昨天的诺贝尔物理奖打破了一个传统现象,今天的化学奖也是,那就是沒有出现犹太获奖者。另一位物理奖得主是91岁的普大荣休教授John Hopfield,他是在芝加哥长大的波兰后裔,资深如此这般仍然是一头金发。他在杰出的文理学院Swarthmore读本科,Cornell PhD,曾经在Bell实验室、Caltech和伯克利都当过教授。

辛顿以神经网络著名,现在却像原子弹之父奥本海默反核扩散那样,他对人工智能的潜在危害提出了严厉的警告。

这些是他在《纽约时报》发表的言论:

“It will be comparable with the Industrial Revolution,” he said. “Instead of exceeding people in physical strength, it’s going to exceed people in intellectual ability. We have no experience of what it’s like to have things smarter than us.”。(“这将与工业革命相媲美,”他说。“但这次不是在体力上超过人类,而是在智力上超过人类。我们没有经历过比我们更聪明的事物是什么样子”)。

“But we also have to worry about a number of possible bad consequences, particularly the threat of these things getting out of control.”。(“但我们也必须担心一些可能的不良后果,尤其是这些事物失控的威胁”)。

“One is accustomed to having technologies which are not only good or only bad, but have capabilities in both directions,” he said. But he added, “You want to have some idea of how you can control the system, and how you can prevent disasters from occurring”。(“人们习惯于面对既有好处也有坏处的技术,它们具备双向的能力,”他说。不过他补充道:“你希望对如何控制这个系统有一定的了解,以及如何防止灾难的发生”)。

今年的诺贝尔物理奖是跨界的,诺贝尔没有数学或计算机奖,委员会以人工智能改变了物理学研究为由授奖。他们也可以此原因授予他们生理与医学奖,何况辛顿在剑桥获得的学位是心理学,Hopfield最后从普林斯顿退休的是分子生物学系。

他们所说的神经网络,与人的大脑结构与功能完全是两码事,他们只是时髦地说说而已。其实大脑的功能要复杂得多,而且人类对大脑的认知十分有限,我们对意识、记忆、情绪与情感的生物学基础的认识都非常有限。

我也不认为人工智能对人类会产生根本性的威胁,可以充分利用人工智能,但是沒有必要害怕它。现在关于人工智能的讨论,与几十年前诺贝尔奖得主David Baltimore和华大前教授Paul Berg积极参与的关于重组DNA危害的争辩非常相似。

讲个最近发生的好玩的AI故事,我的同济同学在美国做教授,他最近在ChatGPT上问世界上在很小领域的重要贡献者,他的名字在列,便很得意地告诉我。

我把范围扩大了些,以此问题问ChatGPT: “Who were the important contributors to complement research fields?”(“谁是补体研究领域的重要贡献者?”)

In the field of complement research, several key figures have made important contributions:(“在补体研究领域,几位重要人物做出了重要贡献:”)??

1. Jules Bordet. A pioneering Belgian immunologist, Bordet discovered the complement system in 1906 and demonstrated its role in enhancing antibody-mediated destruction of pathogens. His work earned him the Nobel Prize in 1919. (“1. 朱尔·博尔代 (Jules Bordet),这位开创性的比利时免疫学家于1906年发现了补体系统,并展示了其在增强抗体介导的病原体破坏中的作用。他的研究为他赢得了1919年的诺贝尔奖”)。??

2. Paul Ehrlich. This German immunologist introduced the term "complement" and defined its function as part of the immune system, collaborating with antibodies to fight infections.(“2. 保罗·埃尔利希 (Paul Ehrlich),这位德国免疫学家引入了“补体”一词,并定义了其作为免疫系统一部分的功能,表明补体与抗体协作对抗感染”)。??

3. Louis Pillemer. An American biochemist, Pillemer discovered the alternative pathway of complement activation in the 1950s, showing that complement could be activated without the presence of antibodies.(3. 路易斯·皮勒默 (Louis Pillemer),作为一名美国生物化学家,皮勒默在1950年代发现了补体活化的旁路途径,表明补体可以在没有抗体的情况下被激活”)??

4. John P. Atkinson. Atkinson is known for his work on the regulation of the complement system and its role in autoimmune diseases, particularly systemic lupus erythematosus (SLE). His research has advanced understanding of complement-related disorders. (“4. 约翰·P·阿特金森 (John P. Atkinson),阿特金森以其对补体系统调节及其在自身免疫疾病(尤其是系统性红斑狼疮)中的作用的研究而闻名。他的研究推进了对补体相关疾病的理解”)。??

5. Michael C. Carroll. Carroll has made major contributions to understanding how complement links innate and adaptive immunity. His research has provided insights into complement’s role in immune regulation and disease.(“5. 迈克尔·C·卡罗尔 (Michael C. Carroll),卡罗尔在理解补体如何连接先天免疫和适应性免疫方面做出了重大贡献。他的研究为补体在免疫调节和疾病中的作用提供了重要见解”)。??

6. Sir Peter Lachmann. A British immunologist, Lachmann made significant contributions to understanding complement regulation and its therapeutic applications. His work has been influential in the development of complement-based therapies. (“6. 彼得·拉赫曼爵士 (Sir Peter Lachmann), 这位英国免疫学家在补体调节及其治疗应用的研究方面做出了重大贡献。他的工作对补体疗法的开发产生了深远影响”)。

These scientists have played critical roles in advancing our knowledge of the complement system, its mechanisms, and its involvement in human health and disease.”(“这些科学家在推进我们对补体系统的机制及其在人体健康和疾病中的作用的理解方面发挥了关键作用”)。

这个结果相当不错,虽然对阿肯森学术成就的总结不太全面。懂点近代医学史的人都知道,他们全是免疫领域的巨人,阿肯森排名第四。前两名是诺贝尔奖得主,第三位发现了Properdin和补体旁路。

这些是我用手机搜索得到的结果,如果我在电脑上查看,答案会有所不同。那么ChatGPT是否在我手机里发现我经常提阿肯森,以此来讨我欢心呢?不过也不见得,同济美国牛人校友再怎么要我问ChatGPT关于对他的评价,AI也出不了任何结果。



今年是诺贝尔奖的AI年,因为今天的诺贝尔化学奖也是授予AI对蛋白质结构和制备非自然界存在的蛋白质的贡献,斯坦福本科和华大MD老爸说:“看来今年AI是大赢家。估计文学奖就直接给了ChatGPT了[Laugh]”。

今天诺贝尔化学奖的一半授予美国科学家David Baker, 他的组做出的东西充满挑战,他们运用计算机模型可以制备以前不存在的蛋白质,而且这些蛋白质具备全新的功能。这在某种程度上充满危险,涉及伦理学问题,对生命的冲击可以与人工改变胚胎相比较。

David Baker是美国西雅图人,在哈佛读的本科,随后在伯克利加州大学跟诺贝尔奖得主Randy Schekman获得博士学位。他在UCSF做完博士后便到西雅图华大做助理教授,现为HHMI研究员。他的人生里程碑的Nature等论文中,含有不少Qian、Cao和Jiang这样的第一作者拼音姓氏。

今年的诺贝尔化学奖同时授予能够解出几乎所有蛋白质结构的AlphaFold2, 通俗点说就是可以谷歌蛋白质结构。其精确度不是100%,但这是可以让结构生物学家丢工作的AI冲击。这也是我见到的诺贝尔委员会反应最迅速的一次,因为他们的正规论文是在2021年才在Nature上发表的。

诺奖得主美国人John Jumper和英国人Demis Hassabis分别是获奖Nature论文的第一和最后作者,诺贝尔委员会做事也公平。当然这是美国拉斯卡委员会的功劳,拉斯卡反应更加迅速,在2023年就授予了他们两位拉斯卡基础医学奖。该奖项确实是诺贝尔奖的风向标,希望西南的陈志坚好运。

Demis Hassabis想在伦敦重建美国当年贝尔实验室的辉煌,而1985年出生的只有39岁的美国人John Jumper是70年以来最年轻的诺贝尔化学奖得主。他们获得诺贝尔奖的认可只有3-4年的时间,已经可以与李政道和杨振宁的诺奖速度比美了。



AlphaFold2的创立是两个国家的人才的碰撞与合作的结果,为美国与英国文化协同的产物。像James Watson当年从美国中西部去英国剑桥遇见Francis Crick,美国南方乡里人John Jumper在Vanderbilt和芝大受教育后去英国伦敦受雇于英国天才Demis Hassabis所创办的DeepMind初创公司,该公司因为被谷歌收购变成了Google DeepMind。

文化的交流固然重要,基因的交融也是关键,因为Demis Hassabis的父母来自两个古老的文明:希腊塞浦路斯和中国。他是很明显的希腊姓氏和名字,但是他的母亲是新加坡华裔, 他为父母的三个孩子中的长子。



Demis Hassabis是聪明得令父母头疼的那种男孩,大家知道我说过天才与精神病只有一层纸之隔。还好这位曾经是象棋神童的精神状态还是正常的,不然英国皇室不会Knighted他,即授予骑士勋章或封爵。他只是70后,但是已经被称为Sir Demis Hassabis。他在剑桥读博士期间也休学,出来办游戏公司,接着在UCL得博士,博士后是在MIT完成的。

感谢上帝,Demis Hassabis拥有婚姻,还传聪明基因给了两个孩子。这是十年前的媒体报道,不知现在家庭是否壮大了。

现在诺贝尔奖的三项科学奖项已经发放完毕,美国显然是大赢家,遍布三个奖项。医学奖的二位得主都是土生土长的美国人;物理奖分别是一位美国人和一位英国人;另外二位美国人和一位英国人获得了化学奖。

这些新科诺贝尔奖得主都有一个共同的特点,那就是他们100%都拥有在美国求学或从事科学研究的经历。美国是当之无愧的世界科学与教育的中心,其领袖地位超过了当年的罗马。美国的科学影响力席卷全球,罗马则是地中海周围的庞大帝国。

fchshm 发表评论于
回复 '雅美之途' 的评论 : 谢谢楼主回复,我只看到照片下面写着英国,大概是写他目前或者作出诺奖贡献时的工作地点吧
雅美之途 发表评论于
回复 'fchshm' 的评论 : David Baker和John Jumper都是美国人。Baker整个生涯全在美国,Jumper大约七年前在芝大得博士,在伦敦的Google DeepMind 工作。
fchshm 发表评论于
楼下太固步自封了,AI是在人类已知数据库里学习,难道我们人类不是?alphaGo 一开始记人类棋谱,等到学成第一高手后就把人类谱子全忘记再重新按自己的胜率来下,反而指出人类很多棋谱的不足,现在学下棋的都去跟AI学了。围棋如此,其它学科AI能创新或推翻现有知识只是时间问题。
另外文章有个小错,化学奖得主是两个英国人一个美国人,楼主写反了。
BMC 发表评论于
同意楼下二位的观点,目前AI都是基于人类以前创造的知识,这样的功能不可能产生目前媒体所吹噓的工业革命,这次获诺奖的蛋白结构預測也沒有真正超出人类的能力,ChatGPT甚至只是一个高级玩具。但是,目前Google, meta, open AI 和马斯克买几十万块老黄芯片的目的并不是为了上述目的。他们的目的是制造具有有思维能力而且不需要train的AI , 而这次获奖的alphafold 是需要用已知的知识去train. 这二者有巨大的不同。如果机器不需要train却能解決问题,这就意味着它能自己思维想出新方法解決问题,这样的AI 才能导致下一次工业革命,而这样的AI需要极大的算力,这就是为什么几大公司抢购老黃的芯片,如果只是alphafold , ChatGPT 这样的功能,根本不需要那么多的老黃芯片。在这方面,仍处在探索阶段,未來的成败仍很难说,未來的AI 如果不能自主思维,目前几千亿的投资就打了水漂,AI 就是一个新bubble. 但目前看,可能会突破。目前的进展是可以用AI 证明难道不大的几何题,这不但需要已知的知识如现有的几何定理,还需要创造性思维去应用这些定理。这是一个很好的开端。到了AI可以证明哥德巴赫猜想之时,就是新的工业革命之际
枪迷球迷 发表评论于
目前AI模型的最大短板恐怕是不能通过逻辑来判断是非, 而是通过统计方法从海量信息来选择较为可能正确的答案。这种模型用来写诗作画和起草忽悠文章无妨。 距离真正的“智能”还相去甚远。
北美小镇 发表评论于
AI这玩意其实还是就是通过算法把数据A和结论B联系起来。在现在的神经网络算法下,不断的训练之后,得出准确联系的可能性越来越高,但依然可能犯非常白痴的错误。AI根本没有逻辑思维能力,只能取代不需要多少思考的工作。本来医生的工作它也可以做,但是架不住它时不时会出现匪夷所思的错误,没人敢让它行医,倒是能给医生提供不错的参考。
登录后才可评论.