评论: 越来越多的企业意识到，AI存在巨大风险

赞成！令胡冲

这就是科学伦理道德方面的潜在问题了！抬头看夜空几乎无限的星云都是被限制在有限的空间内运动的。如果人类的AI技术的会导致结果是无序未知且不可控，还是悠着点吧！大到地球，中到国家，小到企业个人都应该如此。比如，股票投资决策你听信的大数据AI的决策意见而导致的投资行为的失败。那这个乌龙对企业或个人就太大了！

如今的大模型，任何稍有一点专业常识的人都可以用它十倍百倍加速微型核武器或致命病毒的飞速研发。只要你会问，它就真会给你一步步答案和选项。更不用说美国国防部先进武器实验室了。现在俄乌战场上，有一半多杀人攻击任务是依赖AI视觉和自动锁定的自杀式无人机完成了。你可以想象未来的弹药全是AI驱动自动锁定不杀不罢休的智能武器。AI远比任何核武器和生化武器都危险。而且风险不可控不封顶。

任何技术进步都是双刃剑：利益与风险并存。所以没有自我毁灭的文明极少。这就是为什么宇宙中漆黑一片，没有高等文明。


人也是这样：能力越强，风险越大。

AI技术不一定是万灵的摇钱树！对这位大神还是要有些敬畏之心的。九十年代初接触该技术领域，至今不敢涉猎其中，个人能力有限，远观吧！

任何新技术的出现都是一把双刃剑，只是AI技术不仅仅存在明显的科学伦理道德问题，甚至还存在巨大的社会和商业灾难风险。譬如由于AI车辆自动控制驾驶测量和算法功能的缺陷造成的交通人身伤害事故和交通拥堵及联锁发生二次伤害事故的法律责任由谁来负责的问题是显而易见的。所以，盲目无序的强推新技术的应用是存在巨大的社会风险和商业风险的。在法律上就应该对未经验证绝对有效且受控的AI技术应用采取强令禁止的法律措施。以避免潜在的巨大的社会和商业风险。（即你无法证明在任何情况下绝对有效就禁止使用的原则来杜绝所有潜在的不可靠的社会风险与商业风险）这也是在美欧西方没有AI自动驾驶仪的根本原因所在。既你不证明绝对可靠就禁止的原则。就是在法律界常讲的没说容许就是禁止的意思。当然学术是没问题的。