3月29日,北京2025年中关村论坛上,图灵奖得主约瑟夫·斯发基斯(Joseph
Sifakis)发表了题为《迈向工业人工智能的挑战与机遇 》的主题演讲。
希发基斯教授在演讲中首先明确指出AI技术虽取得令人瞩目的成就,但仍处于"起步阶段",其在实体经济中的真正价值尚未充分释放。
之后他揭示了对当下AI发展的三个关键洞见:首先,AI必须从当前的"对话服务"模式转向"自主系统",才能真正实现工业智能化转型;其次,欧美在AI监管框架上的分歧已成为全球AI治理的重大障碍;最后,中国凭借其坚实的工业基础和统一市场,有潜力在领域特定AI和工业自主系统中实现战略突破。
其结果,就是希发基斯教授所强调的:"中国可以在工业人工智能领域处于领先地位,平衡AI的战略博弈,并参与塑造全球AI治理体系。"
以下为演讲全文:
大家好。
我很高兴就工业人工智能及其前景发表演讲。
首先,我要说信息通信技术和人工智能直到最近才开始有少量互动,之前它们是平行发展的。而
人工智能在数字革命中只起到了边缘作用。
你可以看到数字融合是不同类型的计算机应用中的趋势。你能看到这一进展,包括商业应用、电信网络和嵌入式系统。预计在这种演变中,人工智能应该在开发智能系统、自主系统中发挥重要作用。我认为人工智能的成功将仅仅通过它对构建智能系统的贡献来实现,从而达到数字融合的最终阶段。
现在,我想说人工智能仍处于起步阶段,尽管我们今天看到了这些令人印象深刻的结果。它只为我们提供了构建智能系统所需的元素,但还没有合成它们的原理和技术。
而今天的人工智能专注于辅助功能,而其未来应用将需要与需求进行持续交互,或者不需要人工干预。
所以我认为有三种不同的使用人工智能系统的方式。今天我们有问答式人工智能系统,当你提问时,你会得到答案,如ChatGPT等。然后我们还需要用于工业应用的监控器来监控系统,对紧急情况进行预测,分析紧急情况。当然,重点应该放在自主人工智能上。我们需要能够持续与系统交互的人工智能代理。我认为人工智能产业革命才刚刚开始,其实现将在很大程度上取决于我们开发能够构建自主系统的人工智能赋能代理的能力。
现在,我想明确一点,
没有单一的人工智能。有不同的人工智能方法,不同的人工智能应用。
在Gartner的技术成熟度曲线图表中,你可以看到不同解决方案的成熟度。显然,计算机视觉在这里是一项成熟的技术,已经被广泛使用。这里你看到自主系统,以及其他还不够成熟的人工智能技术。所以很清楚,非常重要的是要理解这一点,即并不存在单一的人工智能,并且我们有不同成熟度的解决方案。
另一部分我想强调的是,
目前我们拥有的是通用人工智能,而且在特定领域的应用方面有着巨大的潜力。我们需要用于科学的人工智能,用于经济和社会的人工智能,面向工程和工业的人工智能。很明显,我们今天的人工智能不能直接应用于科学数据分析,需要专业化研究。或者即使我有了用于自动驾驶的人工智能,这也不适用于电信。
你需要特定领域的人工智能,这很清楚。
在人工智能工业革命中,我认为自主系统将发挥重要作用。我希望你理解这个概念。自主系统源于通过用自主代理替换人类来进一步自动化现有组织的需求,这正是物联网所设想的。自主系统支持一种超越机器学习系统的数据系统范式。这些都是通常很关键的复杂系统,它们由应该管理可能相互冲突的目标集的代理组成,应该能够与不可预测的物理信息系统环境进行交互,并且能够与人类和谐协作。
很明显,今天实现自主视觉需要密集使用人工智能系统,这与信息通信技术系统不同,无法用数学模型解释。我们无法根据数学模型预测它们的行为,而这样做的后果是,我们无法像保证日常物品的可靠性那样来保证它们的可靠性。
我认为这一点特别体现在自动驾驶系统的案例中。我们曾被承诺到2020年将看到完全自动驾驶的汽车,但情况并非如此。今天,关于安全问题的讨论非常热烈。所以重要的是人工智能系统的安全性,这已成为国际峰会和联合国审议的主题。我们不能像对传统信息通信技术系统那样严格保证人工智能系统的安全性。
需要强调的是,有些人试图通过声称应基于以人为中心的主观属性来评估人工智能风险,从而转移关于安全人工智能的讨论。大型科技公司谈论人工智能对齐问题,负责任的人工智能具有一系列难以甚至无法评估的特性。而我只想在这里说的是,这种方法走向死胡同,因为你
无法保证今天的人工智能具有以人为本的特性,由于我们不了解构成人类智能的决策机制。
依我看来,所有迹象表明,人工智能今天已经达到了某种平台期。其对实体经济的使用和影响非常有限。这当然是由于不充分的可靠性,但这也是美国大型科技公司的战略问题,它们优先考虑让公众快速采用对话技术以占领市场,追求巨大化。
它们采用了一种需要巨额投资的蛮力方法,我认为这也在打击没有相同投资能力的竞争对手和国家。然而,我认为这一策略也涉及一些严重的经济风险。经济分析师警告称,投资规模与这些投资回报之间存在不平衡,以至于有些人担心金融泡沫会破裂。
让我解释一下,
自主系统的开发需要将传统技术与人工智能相结合,这带来了一些非平凡的技术问题。一个问题是如何从不可塑的人工智能组件构建可信赖的系统。另一个重要问题是如何从设计时的正确性转移到运行时的正确性。
当我们开发一个传统系统时,我们尽量在完成开发时保证其属性,而且系统不会进化。但在这里,对可进化性有很强的要求。
一个非常重要的问题是,我们如何验证自主系统和人工智能系统。显然,现在我们从理性主义转向经验主义,因为我们无法应用数学模型来预测这些系统的行为。关于自动驾驶汽车何时足够安全,存在很多争论。我们可能需要统计技术,但测试技术今天尚未成熟。当然,缺乏技术标准是一个非常重要的问题。如果我们没有标准来评估风险和强制实施某些方法论,我们不能接受自主系统。
在这里,我想强调美国的立场,它将标准视为创新的障碍,实际上采用自我认证。自我认证意味着制造商将保证其系统的可靠性,例如特斯拉在没有任何独立机构担保的情况下保证特斯拉汽车的可靠性。
我认为在自动化系统和自主系统之间还有很多工作要做以弥合差距。
我们需要努力建立一个新的科学和技术基础,这需要一些时间。我想强调的是,也许今天我们已经有了在某些任务上超越人类的超级智能系统。我们可以有一个非常好的系统,在下棋方面超越任何人类玩家,但这不能开车。我的意思是,自主系统需要多种技能的结合,而我们今天还没有这样的系统。
另一个变得越来越重要的是全球监管框架的存在。如果我们没有这样的框架,我们不会接受将人工智能用于关键决策系统。这很清楚。大家都同意我们需要这样的框架,但对什么可以和应该被监管还没有达成一致。使用人工智能有哪些风险,实践中如何实现?
只是为了举个例子,在人工智能监管方面,欧盟和美国之间的立场存在分歧。你可能知道,欧盟去年投票通过了非常全面的人工智能法规。这些法规采用了所谓的风险管理方法,要求高关键性系统具有高可靠性。如果我们应用这些法规,很明显很多自主应用程序、人工智能应用程序将不被接受,我们将停留在对话层面。相反,美国的法规限制较少,它们仅包含建议和指南,让商业人工智能开发者可以自由行动,只是有义务与美国当局合作。这些规定也与大型科技公司的立场一致,它们提倡负责任的人工智能原则,并认为不应仅基于严格的技术标准来评估人工智能系统。
所以今天的情况是,达成全球监管框架协议的机会渺茫。我认为美国正在利用其在对话式人工智能领域的优势,想推行这种以自我调节的市场为中心的方法。
现在,一个重要问题是,在那种情况下中国能做些什么?
我认为中国拥有坚实而广泛的工业基础和统一的国内市场,非常有优势去开发更可靠的、更能适应实体经济需求的人工智能,特别是实现从自动化系统到自主系统的转变。
我认为中国应该专注于每个应用领域的核心技术,以开发特定领域的解决方案。这是可能的,因为中国可以从其庞大且多样化的工业基础中获取丰富的数据,用这些数据来训练系统以解决工业问题。当然,中国还可以依赖我们拥有的大量智能手机用户的数据。
另外,中国应该按行业整合国有企业来生产基本的构建模块。要构建工业人工智能应用程序,还有很多缺失的构建模块,如强大的硬件组件、平台、方法和工具。
中国发展自己的人工智能愿景也非常重要,这个愿景应该与美国的愿景不同。中国应利用其更强大的工业基础,将人工智能应用于各种领域,如自动驾驶运输系统、智慧城市、智能工厂和农场等。如果中国成功实现这一愿景,我认为中国能够在工业人工智能领域处于领先地位,平衡人工智能的战略博弈,并与志同道合的国家携手,以一种能够调和科技发展与社会安全双重需求的方式监管人工智能。