究竟怎么才能干掉人类文明
对于人工智能是否会暴走这个问题我是个悲观主义者，至少在现在的情况看来，我确信失控的AI总有一天会给人类带来伤害。但这种伤害是否会致命、是否会达到种族灭绝的程度，倒是值得讨论讨论的。于是问题就来了：如果人工智能真的想要毁灭人类，它们会采用什么样的手段呢？
上面“隔壁老王”的例子里其实已经提到了一种人类灭亡的可能性，那就是纳米机器人（我知道你可能误以为那是毒气了）。纳米技术将会是另一项可以极大改善人类生活状况的科学研究，可若是这项技术与人工智能结合在一起，那可就太危险了。事实上，即便背后没有人工智能的指挥，失控的、可自我复制的纳米机器人本身就是一个末日隐患，即所谓的灰蛊之灾。纳米机器人完全可以用来杀人，且非常难以被发现，如果AI控制了一批这样能够进行自我复制的工具，那么它完全可以一点点的让这些致命的小玩意儿潜伏在我们的身边甚至身上，在时机成熟后对人类文明实现一击必杀。
暴走的纳米机器人如果可以自行获取资源自我繁殖，那么它们终将吞噬整个世界
好在人类现在这方面的技术实力还不足以建造出这么有效率的纳米机器人，所以这方面的担忧至少在最近几年里还成为不了真正的威胁，事实上，眼下人类连更粗苯的机器人都做得不太好。这也是为什么我们暂时不用担心人工智能会消灭人类的主要原因：即便超级人工智能在现在诞生，它也会发现自己空有强大的脑袋，却没有同样强大的四肢，来让它在物质层面彻底消灭人类。
说明这种情况的最好例子其实是《终结者》。
霍金在警告大众：人工智能的出现不会是多么遥远的未来，而且它肯定比我们更聪明
斯蒂芬·霍金同志曾经在接受《Last Week Tonight》的一次采访中谈到了人工智能的问题。鉴于这是一个喜剧倾向的脱口秀节目，主持人约翰·奥利弗问出了这样一个问题：和机器人打仗这么爽的事情，我们为啥不干呢？
物理学家的回答是：你会输。
这其实倒不见得一定如此。
许多朋友应该都知道，在《终结者》中，天网在未来的战争其实是失败了的，否则它也不用费尽心机的搞时间旅行来创造一个天网获胜的平行宇宙。但天网失败的具体原因，恐怕就没有那么多人知道了。
天网对人类的第一波攻击是核武器，其实要是用这个东西根本用不着人工智能操心，人类自己就有这个能力。不过在玩过了那么多核战末日背景的游戏后，我实在不能不对人类的生存能力保持一种不能算特别天真的乐观，核冬天确实可怕，但人类肯定能幸存下来的，不是吗？
废土上的文明，也依然是文明啊
所以，在《终结者》的世界里，即便经过了天网发动的核武器洗礼，人类还是剩下了不老少（最初的作品里，人口锐减30亿，按照当时的总数，还剩下20亿）。天网这时的处境就比较尴尬了，因为哪怕在今天，工业体系的自动化程度也并没有高到完全可以脱离人类自动运行的地步，仅控制着少量终结者原型机的天网完全无法靠现有的机器人生产新的机器人（最初的那些终结者机器人连手都没有）。为了给自己增加更多的爪牙，天网只能靠手下为数不多的机器人去抓捕人类奴隶，用枪顶着这些劳动力的脑袋为自己制造了第一批自动化工厂。从这里开始，一批又一批的机器人走下了生产线，开始清除地球上最后的人类。
有研究表明，凭借人类现在的核武库储备，想要靠核武器完全消灭地球上的人类其实并不可能
这计划听起来扎实可行，不过问题在于，由于地球上的物资供应系统被核战彻底切断和打乱，建立这套生产系统花掉了天网太多的时间。建造自动化工厂听起来简单，但现代工业就是这么回事，从矿石到金属到螺丝钉，想要大批量的制造任何简单到极点的零件都要十几个、甚至几十个的其他工厂来进行支援。核洗礼刚刚结束后的天网手中可算是一穷二白，它想要建立自己的战争机器不说从零做起，也是相差无几。
天网输就输在了出手太早
而就在天网玩命建基地的时候，幸存的人类从最初的混乱中重新组织了起来，他们很快搞清楚了敌人究竟是谁，为了生存与复仇的反击也随之开始。如果我们不考虑时间旅行等不相干的因素，那么至少在这个世界里，这场战争的胜负其实没有悬念，因为即便天网的机器战士们十分强大，但分散在全球各地的人类依然拥有着天网无法比拟的资源优势。在核洗礼后依然具有数量优势的人类能让那些没有被彻底摧毁的工厂和矿山快速的重新运作起来，疯狂的给人类遭遇重创的战争机器输血。从《终结者》系列的一些漫画作品中演绎的情况来看，这也成为了天网失败的根本原因。
天网的战争机器看起来很强大，其实却和二战时的德国一样，空有技术优势，在战略资源方面却输得一塌糊涂
