正如多数人反对转基因是因为担心人类僭越了自己的权能，对物种进行无限改造，最终会伤害到人类自身。“阿尔法围棋”的出现，让笔者也产生类似的担忧。机器智能的快速发展，看起来对人类有好处，就如同转基因可以让我们吃到产量更高、受农药污染更少的农作物一样。但是，机器智能的进化，是不是太快了一点？
1998年，笔者出版长篇小说 《机器人》《克隆人》《太空人》三部曲的时候，机器智能战胜了当时人类最优秀的国际象棋手。这台IBM超级计算机“深蓝”，每秒钟可以计算2亿步。同时，它输入了100多年来优秀棋手的两百多万局对局，可搜寻及估计随后的12步棋，而一名人类象棋好手大约可估计随后的10步棋。“深蓝”依靠的是硬件计算能力，能力表现在穷尽可能性的暴力计算上，算不得真正的智慧。
但“阿尔法围棋”不一样，它用的仿生智能，是模仿人类大脑的智慧思考能力。它不像深蓝一样依靠大数据，不是穷尽算法，而是仿生智能，模仿人脑架构思考。在计算能力上，人类弱于机器，尚可以接受；但在智慧上弱于机器，我们是从遇到“阿尔法围棋”开始才不得不正视的现实。
我在《机器人》中预言，机器智能会超过人类。但没有想到，今天似乎就到了这个转折点。接下来的问题是：机器智能如果有仿生情绪，能体会到胜利的喜悦，那将如何？可以预言，这种情感角力，也会以机器智能的胜利而告终。因为，机器智能可以揣摩人的情感逻辑，而人不能；机器智能可以战胜宗教和人生观的价值伦理规约，而人不能；机器智能可以更加理性地控制情绪，而人不能。当机器智能产生自主欲望时，某些科幻小说中描绘的人机大战，可能真会爆发。
去年8月，加州大学伯克利分校的一位计算机科学家曾经撰写了一封公开信，呼吁禁止“自主杀人武器”。在军工行业之外的人看来，这样的观点似乎有点杞人忧天。然而现实并非如此，“机器智能武器将改变战争的规模，一个行动小组就可以震动整个世界的格局。他们利用很少的资金和装备，就可以造成核武器级别的破坏。”我想，为机器智能研究立法，是时候了。
（葛红兵 作者为上海大学教授）
