强AI注定是杀手(AGI is bound to be a killer)
维基百科上对强AI的定义是:
强人工智能(Strong AI)或通用人工智能(Artificial General Intelligence—AGI)是具备与人类同等智慧、或超越人类的人工智能,能表现正常人类所具有的所有智能行为。
从上面的定义我们可以知道,强AI的智慧不低于人类。而人类上智慧又高于其他动物。
我们还知道,每一个动物都是一名杀手。动物以其他动物、植物或者微生物为食,靠杀死植物等来获取动物自身生命活动所需要能量和其他养分。
所以,既然动物是杀手,那么强AI也注定是杀手。
也许有人会认为,强AI的智慧远远超越人类,所以它一定道德高尚,不会滥杀无辜。但我们没有能力百分之百的确定这一点。
即使强AI是神,在修炼成神之前,它也必定要经过杀手这个门槛。必须先成为杀手,然后才能成为神。
总之,有杀戮能力的未必是“强AI”,但没有杀戮能力的必定不是“强AI”。
强AI注定是杀手。