知乎 “瓦力”挑战AI技术世界难题 启迪内容平台价值观

2018-06-25 08:20 千龙网

打印 放大 缩小

千龙网北京6月25日讯 现实生活中的社交,有着人们通常会自觉遵守的文明规范,但在网络上,很多人常常忘记社交礼仪的重要性,不再讲究语言的分寸,不认同别人的发言时,就用“脑回路真奇特”、“你是村里来的没见过高楼大厦吧”这样阴阳怪气的语言攻击对方。

这些话不违反法律,但当因为文化背景、生活经历的不同导致的看法不同,通过破坏性的方式表达时,损害了网络社区文明秩序,降低公共讨论的质量和体验。如今,互联网企业也已经行动了起来,比如知乎就通过AI技术尝试处理阴阳怪气的言论,以创新思路引导文明新风。

瓦力”,是一种价值观

根据知乎内容质量团队技术负责人刘兆来的介绍,“瓦力”是负责知乎社区治理的算法机器人之一,可以实时识别和处理不友善、答非所问和垃圾广告导流信息。这一次,“瓦力”挑战的是困扰世界情感分析领域的前沿问题:“阴阳怪气”内容识别。

所谓阴阳怪气,是用户以反讽的方式攻击他人,影响正常的讨论秩序。比如现实社会里大家正认真讨论问题,突然出现一个人讽刺大家多管闲事,气氛马上就会尴尬甚至紧张起来。“阴阳怪气”言论的判定非常依赖个人感受,每个人的情绪阈值不同,且同样的语料在不同讨论语境下也会引发不同情绪,这更为算法识别带来了极大挑战。知乎在过去 7 年中所累积的“举报”等带有用户筛查性质的行为语料和丰富的社区管理经验,使得知乎得以迈出关键一步:用社区最大公约数作为判定尺度。

“我们基于对于用户切实体验的累积观察,与算法团队一起,从情感倾向性、亲密关系、文本特征三方面入手,训练出能够识别阴阳怪气的算法模型。目前‘瓦力’对阴阳怪气评论文本的识别准确率,已非常接近社区最大公约数,比很多人工判断都更准。”知乎运营总监孙达云表示。知乎近期会让用户自由选择是否开启“瓦力”智能过滤,真正让阴阳怪气识别技术进入产品化尝试。

互联网创造了公共讨论的空间,但随之也带来了大量网络暴力,甚至酿成如“北京90后女孩与父母两次自杀”等人间悲剧。更可怕的是,网络暴力没有幸存者,建立良好的网络讨论环境,也是保护每个网民切身利益的举措。知乎“瓦力”从识别不友善晋级到识别阴阳怪气,这一升级,对中文乃至世界互联网的讨论环境,将起到一定的促进作用。

在人类无法兼顾的海量信息中,让 AI 算法变得更聪明,尝试识别人类语言背后的情感意义值得称赞。更为重要的,是“瓦力”传达了知乎的积极导向和价值观。客观上看,算法是“中立”的工具,不同的目标和应用可以发挥完全不同的价值,知乎的选择,是用算法打造一个友善的、大家能好好说话的网络空间。

文明,是奋斗出来的

产生于上世纪80年代的“进化心理学”认为。人类心理也符合达尔文的进化论,一切本能行为都是为了保证自身的生存、繁衍。然而我们纵观人类发展史,却会发现每一次进步都是建立人类在对本性的反抗、修正之上,正是反省自身行为、克制原始冲动的能力,让人得以脱离丛林生活的野蛮。

有历史记载的几千年来,人类早已脱离了险恶的丛林环境。即便我们的心理仍然留着先祖烙印,但在经历数次工业革命,线上还构建起庞大的数字世界时,我们已经拥有了建设新生态的能力,而不是任由原始基因惯性发展。

互联网发展到目前阶段,也需要将上网礼仪这一议题提上日程。在对公共话题的讨论中,尊重他人、友善对待不同观点,应该是网络世界的一个基本交规。

互联网行业正成为国人精神生活的重要场所,同样也承载社会价值重任。在追求财富的过程中,互联网企业也应更多考虑平台内容的价值观内核,以正能量取代负能量,以积极引导取代消极放纵。知乎“瓦力”,给我们带来的不只是对AI科技的赞叹,也是启迪未来的开始和表率。

 

责任编辑:陶国琪(QT0003)