柳友娟 制图
已故美国知名企业家、苹果公司联合创办人史蒂夫·乔布斯曾说，“技术本身并没有什么了不起，但当它与人文艺术、与人性相联姻，它将使我们的心灵歌唱。”
可有四位青年学者并不这么想。他们分别来自计算机科学、数字与移动治理、哲学、法学四个领域，相聚于复旦大学哲学学院“索菲亚人文节”，展开一番关于技术的冷思考——
技术会“吞噬”人类吗？技术的界限在何方？我们该如何看待、对待技术与人文之间的关系？
手机依赖反映人性对“共在”的渴求
问：说到人类是否正在被技术逐渐控制，很多人首先会想到一个例子，那就是对手机具有近乎“依赖症”的“低头族”。我们是否正在被手机控制？它正在如何重塑我们的生活？
王俊（复旦大学法学院讲师、知识产权研究中心特聘研究员）：我对这个问题持肯定回答。手机极大改变了我们的生活方式。我个人也是重度手机依赖症，虽然并不是一个赶时髦者，但对于大的潮流，我还是不想落伍的，可能天生有一种对未来的担忧和恐惧，怕被时代抛在后面。
不过，我对手机的依赖，主要还是对网络的依赖，感觉人类生活已经离不开网络了。
郑磊（复旦大学国际关系与公共事务学院副教授、数字与移动治理实验室主任）：今天我们在讨论自己是否过多依赖手机，其实十多年前，我们也曾经讨论过人类是否过多依赖电脑。二十多年前，这个被讨论的对象则是电视。其实它们只是不同的工具，它们不断进步，我们则通过它们，方便我们的生活。一种工具出现，我们的生活方式便因之改变。所以，现在我们之所以有大量时间花在手机上，是因为我们觉得这个技术给我们带来了进一步的便利，它提供的内容也比之以往的信息通讯、传播工具更丰富。
危辉（复旦大学计算机科学技术学院教授）：我没有QQ也没有微信，手机主要就是用来打电话、收发短信，所以，严格来说，我没有被手机控制的可能。但在我工作的时候，我对网络的依赖还是挺强的。如果工作时没有网络，我已经很难想象自己的工作能否高效进行。
郁?隽（复旦大学哲学学院副教授）：不得不说，我对手机和网络这两样事物，都有一种深刻的分裂感。
有一天，我把手机忘在了家里，就来了学校，也没想到回家拿，突然就觉得那天阳光灿烂、鸟语花香，过得非常充实，好像周围的世界都不一样了。于是，我突然意识到，没有手机，我活得也挺好。我对手机的依赖，并没有之前想象的那么严重。但是，紧接着我回去就发了一条微博。
因为我是研究宗教社会学的，我在这条微博里说，未来人类对手机和网络的依赖会越来越深，可能出现一种反其道而行之的宗教，姑且就将它命名为“戒机教”吧。入教的方法是：从某一天开始，试试能不能一周戒两天手机。
另一个给予我“分裂感”的例子。不久前，我也做了我所开设的课程的“慕课”。不知道为什么，这门课程上线不到两天，就被人全部上传到B站（编者注：国内知名视频弹幕网站bilibili的简称）上去了。然后我想，好吧，有幸成为第一个在B站上享受弹幕评论的复旦老师，也是一种不错的评教方式。
但我倒不觉得这是一种技术对人的掌控。其实我们现在对社交网络、对手机的依赖，我认为是源于我们人性中本有的一种非常深刻的需求和渴望，比如社交。而现代化本身就呈现出一种很矛盾的趋势：一方面，我们对电子产品、对生活方式的需求越来越个体化；但其实，在人心深处，是渴望与人“共在”的。类似B 站这样的弹幕网站的红火，某种程度上就反映出现代人对“共在感”的需要甚至是甘之如饴。
技术发展会不会威胁人类生存
问：今年三月，谷歌公司旗下的一款围棋人工智能程序AlphaGo，如秋风扫落叶般战胜了世界顶级围棋棋手李世石。随之，人工智能概念股涨停。这究竟是商业炒作，还是人工智能发展的先兆？现在人工智能发展得那么快，在可看见的未来，它会不会像我们很多科幻电影所描述的那样，突然之间就超越我们人类的智能，成为地球的主宰？技术发展会不会威胁到人类的生存？
危辉：为什么机器可以把下棋这件事做得很好？因为下棋是一件非常规范的事情。第一，规则特别明确。第二，由下棋所产生的数据，是一系列很直白、“干净”的数据。因为有干净的数据、规范的数据、有限的法则，下棋这个问题对人工智能来讲，就是一个非常“友善”的问题，就能通过编写计算机程序来解决好。
什么是人工智能不容易做的事？第一，视觉、场景、图像理解。第二，自然语言理解。所以你看现在人机对话，只要问它稍微复杂一点的问题，机器就会懵掉。
时至今日，人工智能尚未突破“编程”这件事。所以我个人觉得，我们一点都不用担心，在有限的未来，会出现电影《机械公敌》里那种会危害到人类存在的机器人。那样的复杂程度，对人工智能而言还要求太高。
如果相信那些所谓的预测，比如，说人工智能2027年就能代替人类，只能说人类智能被大大地低估了。我们人类擅长解决那些不可预知的、充满想象力的、没有事先编过程的问题。但现在，计算机只能做预编程的事。这也是我不看好最近很时髦的无人驾驶汽车的原因。
郁?隽：从哲学角度来说，现在对人工智能的警惕反思，反映出人自身的一个心理：自从技术诞生以来，就担心技术会失控。这就好像《圣经》中的上帝，当他的受造者——失乐园中的人类，忤逆了他的意志，他也会认为自己对人已失去控制。现在人也处于那样一个境地，担心所创造的，比如通过转基因技术制造出的新物种，像忤逆过上帝的人那样失控。
被自己所创造出来的人工智能“搞死”，这还是一个高门槛的“死法”。另一种低门槛的“死法”是，我们的程序还没有那么聪明，但因为我们赋予了它们太多的权力，它们被托管了太多事情，哪怕在这个过程中发生了一个很小的错误，类似计算机程序中一些未被发现的缺陷，或者是一个有点漫不经心的程序员不小心写进一个有缺陷的程序，也可能导致人类社会的崩盘。
郑磊：我现在不怎么担心机器会战胜人，而是担心掌握一种工具的人，会战胜没有这种工具的人。比如说，信息获取能力的高下就会造成一种新的不平等，类似人们通常说的“数字鸿沟”。这种不平等加剧后，不具备这种工具或者能力的人怎么办？
包括当时AlphaGo胜出的时候，我并不觉得是机器战胜了人，而是掌握了一种方法论的人，战胜了掌握另一种方法论的人。前一种人懂得深度学习，会编程，然后会把一些规则变成程序。而另外一种人呢，他们全靠自己的感性和智商来进行思考。
快播案的启示：当技术挑战了伦理
问：在前一段时间轰动一时的“快播案”中，深圳市快播科技有限公司，因涉嫌传播淫秽物品牟利，被提起公诉。被控人员就强调，快播是技术公司，本身并不生产淫秽内容。怎么看这个案件带来的启示？
王俊：“快播案”怎样判决，我想我们作为法学从业人员，尊重两点，一个是案件的事实基础，还有一个是案件的法律基础。怎么惩罚？原则是“罚当其罪”。
快播所采用的技术，是通过缓存的方式，把各地的视频集中起来，方便其他人共享。用的人越多，传播效率越高。这是它受到很多网民认可的原因。但技术有时候就像王大隆、张小泉的菜刀，买过来，还看你拿来以后干嘛。目前从刑事的角度而言，快播传播不良视频的事实已经构成，对公众秩序来说就是一个比较大的影响。从民事的角度，虽然它利用了缓存技术，把人家受保护的不良信息收集起来，但这同样有侵犯知识产权的问题。
危辉：作为网络公司来讲，应该对自己提供的服务进行监管。你的技术可能没有问题，但你提供服务的过程可能有问题。更何况，你不可能完全不了解，你所提供的内容是否符合国家法律。
技术用得好还是不好，差别非常大。昨天上课学生就在讨论，大数据现在很火，但如果从大数据中挖掘出对某个人或者某些小团体的隐私性信息，这背后会不会有法律问题？
那么，通常我们挖掘出数据以后，有两种用途。一种就是自己知道，另一种是对隐私信息进行吆喝或者敲诈，或者是利用这些隐私为自己创造价值。这里面就有一个问题，假设作为技术人员，我可以把这个技术做得非常隐蔽，为我个人利用其价值留下“后门”，同时又把自己洗得非常白，怎么办？从理论上来讲，你对我一点办法都没有，这就是一种很大的风险。
郑磊：这一次“快播案”公审还出现了一个值得关注的新情况。就是海淀法院连续两天公开审理快播涉黄案的同时，对该案件全程微博直播。收看庭审直播的过程中，“技术并不可耻”、“技术中立”等热议蹿红网络，同情快播、吐槽公诉人的声音也不少，给人一种“网民狂欢”的观感。
对此，我觉得一个是面对这些社会发展中的新状况、新问题，公诉人、法官必须做好功课，及时跟上技术发展的节奏。这样才能在公审过程中用最与时俱进的语言，直指问题的要害。另一个问题是，我们的公共政策也需要及时跟上时代。当既有的法律约束条件发生变化，除了及时调整，还必须找到立法、公共治理与新问题之间的新的平衡。
比如，事后很多人在讨论，网络视频分级制度的出台，能否改善上述状况。问题是，这个分级怎么分？如今社会已经相当多元化，价值观多元化，受众多元化。多元化了以后，你很难“一刀切”，且无论怎么“切”，都可能切不准。
问：说到技术发展和伦理道德的约束，每个人心里都有一杆秤，该怎么平衡？技术会不会突破伦理道德？
郑磊：人类社会几千年来，关于道德的共识一直在变，新技术的发展，也会使既有的伦理道德面临新变化。这会是一个动态平衡的过程。最终的结果取决于两者之间的博弈和演进。换言之，哪怕现在我们就某些问题达成了共识，一旦有了新情况，比如十年后我们可能觉得是我们既有的伦理道德约束了技术的发展，调整也会发生。
郁?隽：哲学上一直有个母题，叫“失控的技术”。它说的是，当我们无法掌控一个技术时，该如何判断？是任其发展，还是直接就选择不做？这是一个见仁见智的问题。
伦理问题说到最后，每个人的道德判断都很重要。尤其现在已经是一个多元社会，更需要像今天这样坐下来，协商谈判，彼此交流。记者 柳森
