计算机思维是人的思维的一部分,是由人的思维派生出来的一种特殊算法系统。“计算机思维在本质上就是人的逻辑和数学思维,不过,目前的一些新进展似乎试图让计算机具备人的其它思维能力,比如自由联想、感知、学习甚至想象力之类,如果成功的话,那就越来越像人了。二者根本的差异在于,目前的计算机思维不可能对自身系统的整体性进行反思。反思自身系统是人的最高级能力。”
那么,未来的人工智能应该怎样发展呢?
第一,“人工智能的发展应该限于特殊的或专业的人工智能,不能发展具有全面综合能力的人工智能”,也就是人工智能专家所说的通用人工智能;
第二,“不应该发展具有等价于人类反思能力的人工智能,即不能把人工智能设计成为能够对自身系统整体进行反思的全权自主智能。”只要缺乏对自身系统整体的反思能力,人工智能就不会把自身升级为人类无法控制的超级智能存在。
只要人工智能没有发展成超级智能存在,那么人工智能就只是人类使用的工具。但是,如果仍然是一小部分人掌握着人工智能的利器,以目前的人性水平,结局仍然不会乐观。它可能带来三种结果:
第一种是《未来简史》作者尤瓦尔·赫拉利讨论过的,手握人工智能的人类演变成“神人”,而其他人变成无用之人,是“专制的最后胜利”;
第二种是控制人工智能的强者们互相争霸,人类像曾面对核战争威胁那样面对人工智能战争威胁,这是“帝国主义逻辑的可能结局”;
第三种是最理想的状况,人工智能为所有人服务,而不是只为部分人。