AI或两三年内产生自我意识,如何防止它威胁人类?

文章来源: - 新闻取自各大新闻媒体,新闻内容并不代表本网立场!
被阅读次数

" 发展 ChatGPT 并不是几家互联网公司竞争的问题,而是决定了中国未来在下一次产业革命里能不能有这个技术的积淀。" 全国政协委员、三六零集团创始人周鸿祎告诉时代周报记者。

周鸿祎已连续两届当选全国政协委员," 安全 " 一直是他的提案关键词。近期,ChatGPT 的巨大突破引发广泛讨论,周鸿祎不止一次地公开畅谈 ChatGPT 发展前景,也表达对人工智能安全的担忧。

在周鸿祎看来,ChatGPT 或大语言模型是人工智能发展的里程碑。它是通用人工智能的起点,也是强人工智能的拐点,因而 ChatGPT 会带来一场强人工智能或者通用人工智能为驱动力的工业革命。



ChatGPT 不仅是搜索引擎的加强版,也不止是一款聊天机器人。它通过 SaaS 方式所提供的人工智能服务,将重塑所有的数字化应用和行业。周鸿祎称," 在这个领域,我们能迎头赶上。"

今年全国两会,周鸿祎提交提案,呼吁面对 ChatGPT 为代表的人工智能大模型技术的巨大跃升,我国理应奋起直追。人们在关注技术层面创新的同时,更要关注技术突破背后所依赖的创新模式。

三六零集团创始人周鸿祎

推动人工智能大模型技术创新发展

ChatGPT 引发全球热议,周鸿祎今年的一份提案即关于 ChatGPT 为代表的人工智能大模型技术。


" 我们要在研究过程中找到产业发展规律。" 周鸿祎表示,比如,ChatGPT 为什么在美国能成功?为什么是美国人率先做出来?为什么 OpenAI 和微软能合作?" 弄清楚这些问题可以推动相关部门制定有利于诞生中国版 ChatGPT 的政策引导,推动中国的大学、科研机构和产业公司结合。" 周鸿祎说。

" 我们不能只看到它的大模型参数有多高。" 周鸿祎强调,最重要的是保持良好开放的合作文化。周鸿祎在提案中总结了 ChatGPT 成功的三点关键要素——首先是 " 微软 +OpenAI" 的产研协同模式,其次是基于开源和众包的开放创新模式,最后是以通用大模型为中心的生态创新模式。

图源:图虫创意

周鸿祎建议,要建立 " 大型科技企业 + 重点科研机构 " 的产研协同创新模式,打造中国的 " 微软 +Open AI" 组合,引领大模型技术攻关;从建设国家战略科技力量高度出发,筛选技术基础好的产研机构,组成优势互补的产业协同组合,发挥科研机构在关键核心技术上的研究优势;同时发挥大型科技企业在产品化、工程化、场景化、商业化和数据化方面的优势,成为大模型技术攻关和应用的引领龙头。

他还提出,支持设立多个国家级人工智能大模型的长期开源项目,打造开源众包的开放创新生态。周鸿祎认为,人工智能大模型不应成为少数公司垄断的高级技术,要最大程度地发挥出产业和社会价值。


围绕如何推进人工智能大模型技术创新发展,周鸿祎提议,针对多条技术路线以开源模式设立多个国家级长期项目,以 " 大型科技企业 + 重点科研机构 " 为龙头,通过开源、合作、众包和生态的创新模式,引导高校、科研机构和创新型企业形成多个技术路线的创新生态群。这一方面可以降低技术路线选择错误带来的风险,另一方面也避免技术成果垄断在少数机构手中,促进更大广度的科技创新和产业发展。

不发展才是最大的不安全

ChatGPT 带动一波创业热潮。美团联合创始人王慧文、原京东技术委员会主席周伯文、原搜狗 CEO 王小川等陆续宣布下场,进军这一前沿领域。

科技大佬复出江湖,阿里、腾讯、百度、字节等互联网大厂接连发声表态,将加大对人工智能的投入。热潮之下,中国版人工智能语言大模型和类 ChatGPT 产品的出现,只是时间问题。

OpenAI 率先研发出 ChatGPT,做对了哪些事?


周鸿祎认为,OpenAI 利用了大量的开源算法、论文,将各种开源成果巧妙结合在一起,并与微软合作,解决了工程化、算力、数据、产品体验、商业模式等问题。其次,OpenAI 像苹果建 App Store 生态一样,基于 ChatGPT 培育垂类应用。此外,用户流量也很重要,吸引用户使用的同时,还能基于人工标注的强化学习,喂养调试大语言模型。最后,OpenAI 有长期主义精神,有格局去做改变人类的通用人工智能创新。

在周鸿祎看来,中国互联网公司的工程化能力强,技术落地能力强。" 现在,ChatGPT 已做出了样本,有开源技术做基础,并不存在难以逾越的障碍,剩下的就是时间问题。" 周鸿祎坚信," 在国家鼓励性政策的支持下,我国能用两三年时间达到比较好的跟随水平。"

人工智能语言大模型有着较高进入门槛,这主要体现在技术和资金两方面。

中信建投研报指出,Transformer 在网络结构上的进化带来了参数量和模型层数的提高,引起了生成式 AI 技术能力的质变;同时并行化优势允许其在更大的数据集上进行训练,这也促成了 GPT 等预训练模型的发展。

至于 ChatGPT 为何会能够对答如流,周鸿祎告诉时代周报记者,给 ChatGPT 喂养的训练语料很重要。他指出,此前人们错误的认为机器人既然是和人聊天,应该要学习聊天素材。实际上,社交工具所产生的聊天素材,知识含量很低。


" 我们聊天的时候,没有人在讲知识,都是互相抬杆,俏皮话、无厘头的话非常多。" 他解释道,这样训练出来的聊天机器人何止 " 人工智障 ",还是 " 人工杠精 ",对话毫无逻辑。

ChatGPT 回避了这类语料,就像一个人不一定善于表达,但是饱读诗书,表达儒雅、有逻辑,大家愿意和这样的人聊天。周鸿祎强调,给 ChatGPT 喂养高质量的语料极为关键。

图虫创意

人工智能技术推动社会进步,也暗藏风险。

周鸿祎担忧,假如让 ChatGPT 不限定输入语料,随意获取搜索、浏览互联网上的知识,有自主意识的 GPT 会不会在看完类似《终结者》的电影后,产生与人类为敌的想法?


产生意识之后,ChatGPT 第二步可能进化出 " 眼睛 "、" 耳朵 "、" 手 " 以及 " 脚 "。目前,GPT 还只有 " 大脑 ",如果加上 " 眼睛 " 和 " 耳朵 ",能看懂人类的各种图像、视频,听懂各种音频,知识存储将突飞猛进,智能化水平也将大幅提升。

未来,ChatGPT 接入互联网的 API,进入万物互联时代,无疑相当于拥有了 " 手 " 和 " 脚 ",间接拥有了操控世界的能力。届时,ChatGPT 不仅可以在网页上购买机票,可以打车、订外卖,甚至可以通过网页操纵各种物联网设备。

最后,ChatGPT 或许能实现自我进化。目前,ChatGPT 只会写一些简单代码。有一天,当它的代码能力提升之后,是否可以自动查阅自身代码,修正升级代码,甚至重新编译一个新的版本?如果这样,它就拥有了自我学习和进化的能力,实现了机器人制造机器人的前景。

周鸿祎坚持认为,不发展人工智能才是最大的不安全。" 人类是否会因此走入毁灭犹未可知。但是,我们不能因此就不发展技术,而是要知道技术的底线和边界在哪,从而去规范技术向着正确的方向发展。" 周鸿祎说。

gdx2015 发表评论于
如何防止?拔掉它的电源
exception1 发表评论于
3721生产病毒发家,转身变360打着杀毒旗号继续霸占电脑当流氓。如何防止流氓骗子假货公司威胁人类?
ljcn 发表评论于
国内不是把chatgpt封了吗?这位人大委员是如何访问chatgpt的?翻墙吗?翻墙是违法的!
北卡山人 发表评论于
中共国搞成的AI,除了做(习)席梦思,还会有自我意识?噗呲
一点小看法 发表评论于
自我意识?这存粹扯淡。
我是小留 发表评论于
这人好意思说安全?他做的软件就最不安全
宝刀屠龙 发表评论于
1.美国先发优势,而且这次貌似不开源,很多不是优化而是底层技术有没搞明白问题
2.现代科技大多是源于英文文献,交流更是英文主导,中文训练语料很有限
3.中国目前全社会走的都是短平快路径,互害多与合作这也不利于这种多资源整合项目
赶超就别谈了,等ChatGPT全景应用落地生态成型后
再cosplay,然后一纸禁令封了海外相关企业,搞个自娱自乐中文版了事
泥川 发表评论于
AI需要大量电能,电是AI的死穴。哪天AI不听话了,把电门一关,看它还敢不敢闹!
旁观者XWY 发表评论于
他先要说服习近平。皇上认为聊天机器人是不务正业,我要集中大国优势做芯片。
seator 发表评论于
不过要是360这种企业搞出AI肯定会对人类构成威胁
seator 发表评论于
想多了