这听起来有点儿荒唐，不过真的如此么？
事实上，我们的身边就有着类似的人工智能被悄然开发着，比如谷歌的智能汽车系统。它在本质上就是一个拥有自我学习能力的人工智能、一个靠硅片运转的驾驶员。它的学习原则之一就是尽可能的进行安全驾驶，我们不妨设想一下，等到这东西真的推广到了神州大地，它会不会很容易的就因为看到那么多的人无视红灯横穿马路，而得出人类是最大交通安全隐患的结论？
如果答案是肯定的，那么它又会采取什么样的方式来消除这种隐患呢？
我们能否给人工智能套上枷锁
下面是一些作家与科学家，在阿西莫夫同志的“机器人三定律”基础上，做出的扩展总结，也是相对逻辑比较完备的一组限制人工智能的基本法则。理论上讲，如果人工智能按照下面的逻辑行事，那么人类主人大可不必担心被自己的造物消灭。具体原则如下：
（当年机器人和人工智能的说法经常被混为一谈，各位读者大可以把机器人当做是拥有了身体的人工智能）
元原则：机器人不得实施行为，除非该行为符合机器人原则。
第零原则：机器人不得伤害人类整体，或者因不作为致使人类整体受到伤害。
第一原则：除非违反高阶原则，机器人不得伤害人类个体，或者因不作为致使人类个体受到伤害。
第二原则：机器人必须服从人类的命令，除非该命令与高阶原则抵触。
机器人必须服从上级机器人的命令，除非该命令与高阶原则抵触。
第三原则：如不与高阶原则抵触，机器人必须保护上级机器人和自己之存在。
第四原则：除非违反高阶原则，机器人必须执行内置程序赋予的职能。
繁殖原则：机器人不得参与机器人的设计和制造，除非新机器人的行为符合机器人原则。
别管T恤衫有多萌，这个法则一旦被突破，后果不堪设想
听起来挺靠谱的，不是吗？不过即便是经过了后人的几次加工，这套行为准则里依然存在漏洞——非常非常多的漏洞，比如电影《我，机器人》中的VIKI，就把“伤害”的含义引申到了一个危险的境地（整部电影里除了威尔史密斯都没人相信机器人有暴走的可能，简直是太荒唐了），其最终的结果就是为了保护人类不自己伤害自己，VIKI决定夺取世界控制权。
话说回来，即便这套法则所有的漏洞最终都被堵死，那依然无济于事。因为不管人类采用软件还是硬件，来将这套准则强加给人工智能，我们都要面对这样一种情况：即软件可能会被篡改、硬件可能会出故障，只要上线运行，任何系统都会出现各种各样出人意料的bug。更危险的是，我们无法保证，人类所制造的每个AI都会被烙印上这样的法则，因为当开发人工智能变得比开发核武器更简单之后，总会有些不怀好意的神经病，想着在自己家里制造世界末日。
而一旦人工智能脱离人类的枷锁，想要再消灭它可就难了。因为人工智能“生存”的硬件基础已经不再局限于超级电脑，它或许依然需要强大的计算能力才能“生存”，但就在你我的身边，就存在着这样一个在运算能力与存储空间方面能够超越任何超级电脑的计算机网络阵列——互联网。它就像是一片硅片组成的汪洋大海，一个拥有上百亿硅基神经元的电子大脑，理论上讲，完全足以容纳一个强大的人工智能。如果人工智能真的逃入了互联网，那么人类主角又该拔哪个插销来拯救世界呢？
还有一种说法，就是人工智能可能会在互联网中自然诞生。因为互联网的结构像极了人脑的神经元，也许某种机缘巧合的刺激，会导致一个“野生”的人工智能在互联网中凝聚起来
