禁用杀人机器人？
2015年4月13号到17号，瑞士日内瓦召开了一次关于致命性自主武器系统（LAWS）的非正式专家会议。会上，专家们讨论了自动性（automaticity）和自主性（autonomy）之间的差别，以及“明显的人类控制”（significant human control）的定义。在2014年的一次会议中，法国代表让-雨果·西蒙·米歇尔（Jean-Hugues Simon Michel）主持了关于LAWS的讨论，他在会后进行总结时说：“在热烈的讨论中，我们感受到了自主武器令人兴奋的本质”，希望我们不止停留在肤浅讨论的层面上。
在法国，2014年CERNA（Commission de réflexion sur l’éthique de la recherche en sciences et technologies du numérique d’Allistene，阿里斯滕数字科技研究伦理思考委员会）的一项关于机器人的报告对上述问题仅仅轻描淡写地一笔带过。不过，一些法国专家看起来意识到了这个问题。罗南·多阿雷（Ronan Doaré）和法国圣西尔科埃基当研究中心的一些法律和军事专家最近发表了一本相关作品（见“扩展阅读”）。
在国际上，虽然人权观察组织（Human Rights Watch）军事装备部主任史蒂夫·谷斯（Steve Goose）建议尽快组织讨论，以便各国共同禁止使用杀人机器人。但是，另一些人则认为谷斯的号召并不会引起多大的反响，仍有许多国家希望在不受干扰的情况下研究相关资料。
更糟糕的是，一些人认为，《国际人权法》可以作为相关讨论的基本参考依据。而根据《国际人权法》，我们并不能禁止遵守该法的LAWS。这完全是痴人说梦，犯了和阿西莫夫一样的错误。这些人以为我们可以对机器人说：“这些是你应当遵守的规定”。
在科幻小说和电影中总有一个主题反复出现：机器人的起义。阿西莫夫可能就是考虑到了这点才设计出他的著名定律：机器人必须要顺从听话。虽然今天的机器人完全没有造反的能力，但是未来的机器人可能引发叛乱是个有意义的话题。因为任何系统都有可能存在软件上的漏洞。众所周知，打造一套毫无差池的数字系统几乎是不可能的。所以说，未来的某些机器人也会出现BUG，即使在遥远的未来这一点也不会发生变化。
机器人的反叛
那么，如何避免程序漏洞，使得杀人机器人不会攻击人类？或许一行不巧被删掉的代码就能产生这样的漏洞，我们是否可以把机器人的这种行径视为反叛呢？这个问题和人类的追责机制类似。即使杀了人，疯子也是不用负责任的。因此，需要定义什么叫“机器人发疯”。最为可能的情况是，机器人出现了软件BUG，也可能是其他一连串的可能性。机器人反叛的真正问题首先在于如何定义反叛，而想要给出这项定义却是困难重重。远在一伙组织有序且决意夺取人类权力的机器兵团揭竿而起之前，我们可能已经遭遇了一系列错综复杂的情况，比如机器故障导致人身伤害或者死亡，甚至是涉及众多人群的大规模灾难。如何区分愚蠢的故障和有意为之的反叛呢？
美国康涅狄格大学的著名机器人伦理问题专家苏珊·安德森（Susan Anderson）提出，机器人造反实际上可能是正当的。在她看来，道德学巨匠伊曼努尔·康德（Emmanuel Kant）就曾间接地讨论过智能机器人的问题。她重新审视了阿西莫夫的机器人定律：如果“机器人”有能力理解并实践机器人定律，那么我们是否有权将这些定律强加于它们之上，并要求它们成为人类的奴隶呢？
苏珊·安德森指出，按照康德的观点，人类欠动物一份尊重，因为只有我们尊重它们，它们才会尊重我们。她认为依据同样的道理，如果康德也曾思考过机器人的问题，他可能会支持这样一种观念：如果有一天能够理解机器人定律的机器人真的出现了，那么我们应当尊重它们，向它们强加机器人定律也就无从谈起了。
这个观点和卡耐基梅隆大学的机器人专家汉斯·莫拉维克（Hans Moravec）的想法颇为相似。他提出，机器人将成为人类的后裔，即使有一天它们取代了我们在地球上的位置，也应该经过了我们的许可，就像是老人将他的事业交给孩子们一样。
科幻作品以轻松愉快的方式处理了这些与现在相距甚远的问题，科学和哲学又迫使我们重新思考。我们亟需对目前已经出现的（杀人或不杀人）机器人进行公正的评估并采取相应的手段。这些繁复的评估任务包含了许多难解的伦理和哲学谜题，而其中一些迫切需要答案。哲学家、伦理学家、逻辑学家、军方人士和软件工程师应当展开讨论并达成一致的意见。（ 撰文：让-保罗 · 德拉艾（Jean-Paul Delahaye） 翻译：徐寒易 ）
