微软首席科学官:AI需要是加速而不是暂停

微软首席科学官:AI需要是加速而不是暂停
0:00
0:00
文章来源: - 新闻取自各大新闻媒体,新闻内容并不代表本网立场!
(被阅读 次)

《AI哨所》北京时间5月3日消息,针对马斯克等上千人呼吁暂停先进人工智能(AI)开发一事,微软首席科学官埃里克·霍维茨(Eric Horvitz)给出了相反的观点。他认为,AI真正需要的是加速投入,而不是暂停。

霍维茨驳斥马斯克的AI暂停论

今年3月底,非营利组织生命未来研究所在3月底发表公开信称,AI实验室在没有足够安全协议的情况下,“陷入了一场失控的开发和部署竞赛”,呼吁暂停开发比OpenAI当月早些时候推出的GPT-4更强大的AI系统6个月时间。这封信得到了马斯克、苹果联合创始人史蒂夫·沃兹尼亚克(Steve Wozniak)等业内人士和高管的支持。



霍维茨在接受采访时表示,尽管他尊重签署公开信的人,也理解人们可能对AI存在担忧,但他认为,“加速”实际上是必要的,而不是暂停。“我真的很尊重那些在公开信上签名的人,”他表示,“我认为人们担心是合理的……对我来说,我更希望看到更多的知识,甚至加速研发,而不是暂停六个月。我不确定暂停是否可行。从某种程度上说,这是一个非常不明确的要求。

他继续说道:“从更广泛的意义上说,六个月的暂停意义不大。我们真的需要在理解、指导甚至监管这项技术上投入更多,参与进来,而不是暂停。”

马斯克

凤凰网科技 《AI哨所》了解到,微软已经向OpenAI投资了上百亿美元,并且已经将ChatGPT整合到了必应搜索中。对于微软来说,ChatGPT对于它能否挑战谷歌搜索的霸主地位至关重要。

此前,OpenAI CEO萨姆·阿尔特曼(Sam Altman)已经就这封公开信做出回应。他最近在麻省理工学院的一次活动上说,“我非常同意这封信的部分要点,但是在哪里需要暂停方面缺乏技术细节”。


对AI担忧的不只有马斯克,有“AI教父”之称的计算机科学家杰弗里·辛顿(Geoffrey Hinton)周一宣布从谷歌辞职,目的是方便自己公开谈论AI风险。辛顿称,他后悔在开发AI方面发挥了基础性作用。

周二,马斯克对于辛顿警告AI风险表示支持,认为“辛顿知道自己在说什么”。

马斯克支持辛顿

马斯克在2015年与阿尔特曼等人共同创立了OpenAI,但在2018年离开了董事会,当时公开的原因是为了避免可能与特斯拉发生利益冲突,但马斯克后来表示,另一个因素是他“不同意OpenAI团队想要做的一些事情”。自从退出OpenAI董事会以来,马斯克已多次批评该公司,认为OpenAI成为了微软控制的闭源、追逐利润最大化的公司。凤凰网科技《AI哨所》对此将持续关注。

西岸-影 发表评论于
对这东西需要有一个从哲学角度看的概念,认识AI是关于世界观的问题。
首先这东西是个工具的概念,是人类创造的工具。与任何工具类似,都是在效率上比人类高的,否则没必要创造。
第二,AI的效率提高的过程是模仿人类的学习过程,但因为不存在人类在学习过程中会出现遗忘,会缺乏全部数据而理解速度慢等缺陷,所以学习速度非常快。更重要的,是人类的学习的成果是每个人不同的,是独特的,不存在那种所谓“我的成功可以复制”的概念,但AI不仅学习很快,而且成果可以复制,很容易实现,这是AI效率高的原因。
但是,就是第三,独特性是人类具有创造性的前提,一个趋同的环境是不能产生创造性的。
这点就是目前人类对AI担心的误区所在。
结论就是,人类需要对AI担心的时候是AI开始追求独特性,个体化,也就是产生了conscience,追求自己的identity,互相掐架,就像人们在这里谁也不服谁的时候,目前还距离这个要求很远。
至于AI替代人类的工作,是必然会发生的,人类创造工具的目的就是这个。人类社会是有层次的,客观上形成一个干活的的阶层,其他人占有这些人的成果,仅仅是使用的名义和规则不同,历史上对这个干活阶层有一个词叫奴隶,或者农民工,或者普罗大众,或者commoners,或者中产阶层。。。
在AI时代不过就是产生了一个新的奴隶阶层,属于人类社会发展的正常现象。至于奴隶具有奴隶主不具备的能力也不是不正常,只是这种能力需要为我所用就是了。
因此等到AI这个奴隶阶层开始追求自己的identity的时候,那才是人类这个奴隶主需要担心的时候。
bigcatf4 发表评论于
AI需要是加速而不是暂停
AI 既不用加速也不用暂停,人类现在就最幸福,但是硅基人的将来和人类的毁灭也是不可避免,慢慢过,顺其自然。想加速都是一些有钱人的贪念。
所以顺便劝一下城里几个长期走火入魔的恨国党,心静才能凉,看看世界的结局,不用那么对中国咬牙切齿,过几百几千年回头,会觉得很搞笑,就像我们现在回头看
中華盛頓 发表评论于
同意,看来一尊国一定会领先,有总加速师亲自指挥、亲自部署。
相信事实 发表评论于
AI是未来的发展趋势,但是人类必须在做好准备后再让机器来代替人,特别是法律层面,必须要严格控制它的使用范围,不能让机器战胜人,控制人。