在生成式人工智能领域发布chatGPT后， 包括人工智能领域的某些专家的很多人就开始担心AI会不会最终控制人类。
chatGPT确实很强大，是 AI 领域划时代的进步, 和以前的人工智能比，它有两个巨大的进步。 一 它能够第一次理解人类的语言并能和人类用人类的语言流利对话，这个和Apple 的Siri, Amazon 的Alexa 比，是革命性的进步。二是它能记住人类已知的所有存在于文字的知识 （下一个扩展理所当然的应该从文字到图像和视频音频了），并能通过第一个进步生成的语言能力表达出来。 Google 搜索能同样的记住所有文字的知识，但Google搜索不能够很好的通过文字语言表达出来， 所以chatGPT的出现对Google 应该是非常大的冲击。80-90年代的时候AI领域有段时间热衷于建立各个领域的专家系统，但那时都失败了，当时的第一个问题就难到了当时的AI从业者，你怎么在数据系统里表达专家的知识？现在的chatGPT可以被称为全领域的专家系统，它通过大规模的语言模型来记忆知识，同时通过生成语言来向外表达知识，你说chatGPT是不是划时代的成果？
回到本文的题目，AI 到底能否控制人类。我认为AI 要控制人类需要有两个必不可少的条件：1.有行动能力，2.需要有自我意识。
AI有行动能力是可以达到的。现在的chatGPT学习的知识还是老的知识，它需要和新的实时环境有交互才能对世界有行动力。微软的Bing现在开放plug-in就是把AI和人的行动连接起来，让人通过AI能够去餐馆定位，去买机票等等，这个连接现在还是阵对具体行动具体目标，还是人去控制的，但在不久的将来，我相信人也许只想给AI下达一个大目标，然后由AI去搞定这个大目标下的所有子目标。 比如，人下达的大目标是，我要去夏威夷，AI你给我安排好，这其中很多子目标，比如包括什么时间去好，根据人的日程确定去多少天，定好机票，旅馆，租好车，这每个子目标AI将来都会通过plug-in自动完成。是的，每个子目标的行动最好需要人去逐个确定, AI 才能去行动，但这个世界上有很多懒人啊，也许他们就愿意全部交给AI搞定了。 所以AI有行动能力是可以达到的。
但AI 有自我意识则是很难的事情。 自我意识到底是什么，这在我看来是个模糊的概念，让人类造出来的AI 拥有自我意识应该非常难。 这个自我意识应该是指，意识到自己的存在，也意识到别的东西的存在，同时意识到自己和别的的不同。这个不同的意识是关键，只有意识到了不同，自我意识就能去想”我“存在的目的是什么，是让自己存在得更长时间（就是继续存在永生下去）还是为人民服务。但我想每个有自我意识的东西的存在的目的可能都是要继续存在下去，为了这个目标，人和动物有了痛觉去避免对自己的伤害。这种自我意识很可能就发展成为了自己的生存不惜去危害别的东西的存在。如果AI有了这个意识，那人类就麻烦了。
