智能危机会出现吗？
人工智能又一次战胜了人。日前，首场神经影像领域的“人机大战”落幕，在脑肿瘤和脑血管影像判读比赛中，医疗AI最终以高出20%的准确率战胜了医学界的“最强大脑”。据悉，如果这款AI产品投入使用，核磁检查的出片速度将从现在的几天缩短至几分钟。
从计算到金融，再到医疗，人工智能正在越来越多的领域中展现出优势。而人工智能每胜利一次，人们未来的担忧就加重一分，人工智能爆发的时代，人类离被替代还有多远？
●主持人说
当造物超越造物主
“当更高级的智人出现，低级的尼安德特人就注定灭绝”，这是电影《X战警》中，X教授一篇论文的观点，而这篇论文，则成了电影中变种人和人类漫长战争的原因之一。
大自然物竞天择，没有怜悯和同情，只有优胜劣汰。而漫长的人类历史中，同样充满了残酷的竞争和掠夺——直到几十年前，人类学会合作和交易，才找到不流血就能满足各自所需的方法。即便如此，这一方法也绝非普遍适用的，在人类内部，战争仍旧存在，在外部，大规模的物种灭绝越演越烈……文明的冲突或许可以减缓，但物种的竞争仍旧残酷。
面对人工智能，人类是智人还是尼安德特人呢？
固然，人工智能是人类的造物，但造物就绝不可能超越造物主吗？不论是现实中人工智能的表现，还是科幻故事里的预测，似乎都在显示，造物超越造物主，并非绝无可能。
假如有一天，那样的局面真的出现，我们有办法避免冲突吗？或者，有办法在冲突中获得最后的胜利吗？
智能是种进步
解放人的自由
张国庆（中国社科院研究员）
对于人工智能的担忧，我觉得有点儿过虑。如果人工智能真的能造成危机，那么人也太脆弱了。我始终认为，人工智能和人类历史上无数次的技术变革是相似的，比如汽车的出现，人的双腿并没有因此退化，比如飞机的出现，人也不可能失去地上生活的能力。事实上，技术的变革是人类得到了解放，使生产变得更加高效，而不是相反。
当然，任何技术都是有代价的，进步必然会导致某些传统产业的衰落，比如汽车出现了，马车慢慢就退出交通工具的行列了。但这种代价是必须付的，人们因此享受到了更加便捷的生活。比如智能支付，以前出门，要带钱包、公交卡、一大堆银行卡等，现在只要带手机就可以了，它整合了大部分的支付功能，购物、乘车、转账等，都可以用手机完成。
再如智能家居，在家里的二楼，就可以用手机调一楼空调的温度，而在以前，人必须下去才能调。出门忘了关电器，在公司也可以用手机关掉，而在以前，要么就一直开到下班回家，要么就回去一趟。
人工智能全面提高了人的生活品质，也包括学习效率。以前想听什么课，就必须自己去课堂听，现在网上随便就能听。所以，人工智能让人更舒服、更洒脱，而不是相反。
当然，进步必然有副产品，人工智能的副产品，我觉得主要有三个，沉迷、产业衰落、犯罪。但仔细一想，这三个副作用，其实都是人的问题，而不是人工智能的问题。
先说沉迷，除了某些特定的东西，对于一个成年人来说，任何沉迷都是自身的问题，而不是工具的问题。比如玩游戏，对成年人来说，能不能自控呢？有人玩游戏沉迷不可自拔，但也有人通过游戏放松精神、调适心情，不同的人所得不同，可见根本在人，不在游戏。
再说产业衰退，这是无可奈何的事情，有崛起必然有衰落，不符合潮流的，终将淘汰。如胶卷，有了数码照相，胶卷的用处已经很少了，甚至现在连相机都在逐渐退出，除了一些特定的领域，一般人很少再去单独买一架相机，手机的照相功能并不比一般相机差。但这也不是人的问题，在过去，那些被替代的行业中，从业人员也并非活不下去了，因为新的产业，总是会有新的需求。
还有犯罪的问题。确实有人利用人工智能违法犯罪。这更不是人工智能的问题，而是人的问题，即便没有人工智能，这些人还是会用其他方法违法犯罪。事实上，我们还应该看到事情的另一面，尽管人工智能方便了某些犯罪行为，但它给人带来的保护更多。比如天网，为什么有些城市犯罪率在下降，我想天网一定是其中一个原因，无处不在的摄像头，使得罪犯无处遁逃，犯罪成本太高，犯罪行为自然会减少。再如家庭监控，过去我们用钢筋铁条来保护我们的家庭，但那是被动的。现在有了家庭监控系统，人在公司上班，家里进了人，立刻知道，可以主动报警，甚至监控系统本身就有报警的功能，这难道不比钢筋铁条更安全吗？
所以我认为，人工智能是进步，是对人的解放，它并非危机。它确实有副作用，但这些副作用，更多是人的问题，而非人工智能本身的问题。
科技是双刃剑
必须加以制约
张晓明（中国社科院研究员）
百年来，发达国家对科技伦理的重视日益提高，尤其是对自然环境、社会规则影响较大的科学技术，反思和约束也越来越多，一项新的技术是否应该被应用到生产、生活等领域，相关的伦理标准和尺度，正在变得越来越严密。
在科技伦理中，尤其是医学伦理、计算机伦理受到的重视程度非常高，在今天几乎已经成为显学。相对来说，国内对这方面的研究和重视程度，还相对比较薄弱。这也是人工智能在今天遭遇到这么多关注和争议的原因之一。
科技永在进步，但科技并非只有好处，它是一把双刃剑，兴一利必有一弊，很难有那种单纯地好或者坏的技术。
以人工智能而言，这几年发展的速度非常快，在不同领域中表现也不同，在有些领域走得已经很远，比如金融领域，国外许多金融机构如投行、银行等甚至出现大规模裁员的现象。有些目前还在尝试，如医学、教育等。还有些目前人工智能仍未涉足，但这可能只是开始，在未来，很可能在大部分领域显示出超出人类的优势。
人工智能会不会全面超越人呢？很难说，有科学家已经在尝试以人工智能来模拟人的情感，会不会成功呢？目前似乎还不太可能，但这也证明，机器人能做到的越来越多，人独特的东西越来越少。
这当然值得担忧，但是否必然会出现危机、出现人被机器替代的局面？这恰恰就是科技伦理要做的事情。
有一位国外的学者曾经预测，在未来，80%的人一辈子都不可能找到工作，因为绝大部分工作都被机器干了。所以他提出，应该尽早设立一套全民保障体系，或者也可以叫做基本收入体系，每个人，不管他是否工作，都可以获得一份基本的收入，这份收入可以使他有尊严地活着。
这样的设想并非无稽之谈，事实上，在人与机器的协作越来越严密的时候，必须要考虑：机器带给人的究竟是便捷还是不便？人类研究科学技术，发明机器，目的是为人服务，而不是替代人，甚至把人推入深渊。
必须分清楚一个概念，机器替代人工作，和人类失去收入、失去生存能力是两回事。摆脱体力劳动，乃至摆脱没有创造力的、重复性的脑力劳动，是人类的梦想，但这个梦想不是以无法生存为条件的。所以，当机器人能做的事情越来越多，我们就必须要考虑，当人类使用机器从事劳动生产的时候，应该怎么解决人的问题。如果这个问题解决了，岂不是梦想终于实现了，如果不能解决，危机可能随时出现。
至于说机器人会不会统治人？我想这有一个前提，就是人类不陷入科技之上的观念之中，只要这个前提存在，人类社会就不会出现人被机器人替代乃至统治的问题，反之，如果陷入科技之上的怪圈，陷入科技原教旨主义，那么危机就如影随形。
所以，最终的问题不是机器人的问题，而是人的问题。人要控制科技，而不是按照科技本身的逻辑去发展，科技必须控制在人的手中，而不是任其自然演化、不加干涉、评估地肆意发展。
这就是为什么科技伦理越来越重要的原因，整个世界主流的倾向，还是要加强对科技的控制，对科技进行更多、更严密的伦理价值分析。把主动权掌握在人的手里，只要这一点不改变，就能够最大限度地控制科技的副作用。
