AI或两三年内产生自我意识,如何防止它威胁人类？

" 发展 ChatGPT 并不是几家互联网公司竞争的问题，而是决定了中国未来在下一次产业革命里能不能有这个技术的积淀。" 全国政协委员、三六零集团创始人周鸿祎告诉时代周报记者。

周鸿祎已连续两届当选全国政协委员，" 安全 " 一直是他的提案关键词。近期，ChatGPT 的巨大突破引发广泛讨论，周鸿祎不止一次地公开畅谈 ChatGPT 发展前景，也表达对人工智能安全的担忧。

在周鸿祎看来，ChatGPT 或大语言模型是人工智能发展的里程碑。它是通用人工智能的起点，也是强人工智能的拐点，因而 ChatGPT 会带来一场强人工智能或者通用人工智能为驱动力的工业革命。

ChatGPT 不仅是搜索引擎的加强版，也不止是一款聊天机器人。它通过 SaaS 方式所提供的人工智能服务，将重塑所有的数字化应用和行业。周鸿祎称，" 在这个领域，我们能迎头赶上。"

今年全国两会，周鸿祎提交提案，呼吁面对 ChatGPT 为代表的人工智能大模型技术的巨大跃升，我国理应奋起直追。人们在关注技术层面创新的同时，更要关注技术突破背后所依赖的创新模式。

三六零集团创始人周鸿祎

推动人工智能大模型技术创新发展

ChatGPT 引发全球热议，周鸿祎今年的一份提案即关于 ChatGPT 为代表的人工智能大模型技术。

" 我们要在研究过程中找到产业发展规律。" 周鸿祎表示，比如，ChatGPT 为什么在美国能成功？为什么是美国人率先做出来？为什么 OpenAI 和微软能合作？" 弄清楚这些问题可以推动相关部门制定有利于诞生中国版 ChatGPT 的政策引导，推动中国的大学、科研机构和产业公司结合。" 周鸿祎说。

" 我们不能只看到它的大模型参数有多高。" 周鸿祎强调，最重要的是保持良好开放的合作文化。周鸿祎在提案中总结了 ChatGPT 成功的三点关键要素——首先是 " 微软 +OpenAI" 的产研协同模式，其次是基于开源和众包的开放创新模式，最后是以通用大模型为中心的生态创新模式。

图源：图虫创意

周鸿祎建议，要建立 " 大型科技企业 + 重点科研机构 " 的产研协同创新模式，打造中国的 " 微软 +Open AI" 组合，引领大模型技术攻关；从建设国家战略科技力量高度出发，筛选技术基础好的产研机构，组成优势互补的产业协同组合，发挥科研机构在关键核心技术上的研究优势；同时发挥大型科技企业在产品化、工程化、场景化、商业化和数据化方面的优势，成为大模型技术攻关和应用的引领龙头。

他还提出，支持设立多个国家级人工智能大模型的长期开源项目，打造开源众包的开放创新生态。周鸿祎认为，人工智能大模型不应成为少数公司垄断的高级技术，要最大程度地发挥出产业和社会价值。

围绕如何推进人工智能大模型技术创新发展，周鸿祎提议，针对多条技术路线以开源模式设立多个国家级长期项目，以 " 大型科技企业 + 重点科研机构 " 为龙头，通过开源、合作、众包和生态的创新模式，引导高校、科研机构和创新型企业形成多个技术路线的创新生态群。这一方面可以降低技术路线选择错误带来的风险，另一方面也避免技术成果垄断在少数机构手中，促进更大广度的科技创新和产业发展。

不发展才是最大的不安全

ChatGPT 带动一波创业热潮。美团联合创始人王慧文、原京东技术委员会主席周伯文、原搜狗 CEO 王小川等陆续宣布下场，进军这一前沿领域。

科技大佬复出江湖，阿里、腾讯、百度、字节等互联网大厂接连发声表态，将加大对人工智能的投入。热潮之下，中国版人工智能语言大模型和类 ChatGPT 产品的出现，只是时间问题。

OpenAI 率先研发出 ChatGPT，做对了哪些事？

周鸿祎认为，OpenAI 利用了大量的开源算法、论文，将各种开源成果巧妙结合在一起，并与微软合作，解决了工程化、算力、数据、产品体验、商业模式等问题。其次，OpenAI 像苹果建 App Store 生态一样，基于 ChatGPT 培育垂类应用。此外，用户流量也很重要，吸引用户使用的同时，还能基于人工标注的强化学习，喂养调试大语言模型。最后，OpenAI 有长期主义精神，有格局去做改变人类的通用人工智能创新。

在周鸿祎看来，中国互联网公司的工程化能力强，技术落地能力强。" 现在，ChatGPT 已做出了样本，有开源技术做基础，并不存在难以逾越的障碍，剩下的就是时间问题。" 周鸿祎坚信，" 在国家鼓励性政策的支持下，我国能用两三年时间达到比较好的跟随水平。"

人工智能语言大模型有着较高进入门槛，这主要体现在技术和资金两方面。

中信建投研报指出，Transformer 在网络结构上的进化带来了参数量和模型层数的提高，引起了生成式 AI 技术能力的质变；同时并行化优势允许其在更大的数据集上进行训练，这也促成了 GPT 等预训练模型的发展。

至于 ChatGPT 为何会能够对答如流，周鸿祎告诉时代周报记者，给 ChatGPT 喂养的训练语料很重要。他指出，此前人们错误的认为机器人既然是和人聊天，应该要学习聊天素材。实际上，社交工具所产生的聊天素材，知识含量很低。

" 我们聊天的时候，没有人在讲知识，都是互相抬杆，俏皮话、无厘头的话非常多。" 他解释道，这样训练出来的聊天机器人何止 " 人工智障 "，还是 " 人工杠精 "，对话毫无逻辑。

ChatGPT 回避了这类语料，就像一个人不一定善于表达，但是饱读诗书，表达儒雅、有逻辑，大家愿意和这样的人聊天。周鸿祎强调，给 ChatGPT 喂养高质量的语料极为关键。

图虫创意

人工智能技术推动社会进步，也暗藏风险。

周鸿祎担忧，假如让 ChatGPT 不限定输入语料，随意获取搜索、浏览互联网上的知识，有自主意识的 GPT 会不会在看完类似《终结者》的电影后，产生与人类为敌的想法？

产生意识之后，ChatGPT 第二步可能进化出 " 眼睛 "、" 耳朵 "、" 手 " 以及 " 脚 "。目前，GPT 还只有 " 大脑 "，如果加上 " 眼睛 " 和 " 耳朵 "，能看懂人类的各种图像、视频，听懂各种音频，知识存储将突飞猛进，智能化水平也将大幅提升。

未来，ChatGPT 接入互联网的 API，进入万物互联时代，无疑相当于拥有了 " 手 " 和 " 脚 "，间接拥有了操控世界的能力。届时，ChatGPT 不仅可以在网页上购买机票，可以打车、订外卖，甚至可以通过网页操纵各种物联网设备。

最后，ChatGPT 或许能实现自我进化。目前，ChatGPT 只会写一些简单代码。有一天，当它的代码能力提升之后，是否可以自动查阅自身代码，修正升级代码，甚至重新编译一个新的版本？如果这样，它就拥有了自我学习和进化的能力，实现了机器人制造机器人的前景。

周鸿祎坚持认为，不发展人工智能才是最大的不安全。" 人类是否会因此走入毁灭犹未可知。但是，我们不能因此就不发展技术，而是要知道技术的底线和边界在哪，从而去规范技术向着正确的方向发展。" 周鸿祎说。