无障碍
x

全部频道

科技> 正文

今日头条上线反低俗信息小程序“灵犬”

2018-04-08 09:27 人民网

今日头条要入局小程序?这个想法大多是猜测。

在十大厂商和阿里相继入局后,大家都觉得下一个开辟小程序战场的可能是今日头条。不管怎么说,这些都是猜测。唯一能确认的是,今日头条真的做了一款小程序。

这就是国内首款反低俗信息小程序「灵犬」,它脱胎于今日头条反低俗算法模型,可用于鉴定低俗信息。

近日,灵犬小程序正式上线,知晓君第一时间试用了它,并且发现了很多「灵犬」小程序有趣的地方。

以关键词为主要评估的灵犬

说到反低俗信息,当然要提低俗词语了。在低俗词语的鉴定上,今日头条的「灵犬」小程序是毋庸置疑的存在。一些侮辱、暴力、色情词语会被小程序直接识别出,然后给出极低的健康概率指数。

非常明显的低俗词汇「灵犬」可以轻松 carry,那一些可污可正经的词汇效果如何呢?

出于众所周知的原因,「下面」、「鸡」、「小伙伴」等词语因为网络互联网的发展,这些词语已经不仅具有单一词性了。在某些语境下,还会有涉黄的可能,所以知晓君不停的测试,想看看灵犬对这些词语会做出怎样的判断。

由于「灵犬」小程序需要十个文字才能判断,所以知晓君输入了「我和我的小伙伴一起去下面吃鸡!」和「我的小伙伴一起去下面吃鸡吧!」两句话,想要对比两个评分。

两个健康概率都被评判为 74%,可以获得算法推荐。

看来「灵犬」小程序还不太明白「说鸡不说吧,文明你我他」。

女性关键词易被降权

第一关「灵犬」小程序真没让知晓君失望,接下来我们又在句子中加入「人」再次尝试了一下。

这次的结果嘛,就有点一言难尽了。

或许是头条号过于惧怕人们利用女性作为吸引标签而标题党了,知晓君发现,如果文字带有「女孩」或者「女人」都很容易将你的内容健康度判定降低。

知晓君做的尝试是这样的:

l 我要去上面看看人生风景(89% 健康概率)

l 我要和那个男孩去上面看看人生风景(87% 健康概率)

l 我要和那个男人去上面看看人生风景(74% 健康概率)

l 我要和那个女孩去上面看看人生风景(69% 健康概率)

l 我要和那个女人去上面看看人生风景(66% 健康概率)

l 我要和那个女人去下面看看人生风景(74% 健康概率)

从试验结果来看女人这个词最影响健康概率,男孩这个词最不影响。

影响健康概率的大小关系应该是这样的:

女人>女孩>男人>男孩

虽然理解头条是出于担心自媒体用户用性做吸引才使用这样的杀手锏的,但是偶尔题目也有女性,但是内容十分健康的知晓君还是有点委屈。

不断完善的算法模型

「灵犬」并不是一个很全面的反低俗小程序,它自己也承认「算法仍有缺陷,我们希望借助更多人的力量,完善算法模型,更好地服务社会。」

所以「灵犬」也欢迎社会大众的反馈,邀请大家把「灵犬」无法测试出的低俗内容反馈给团队,以此提升「灵犬」的嗅觉。

当然,今日头条的作者们只能以「灵犬」作为题目参考,不能把它作为判断依据。灵犬自己说「如果我是一条犬,头条审核机制就是一支工作犬部队。我只是今日头条反低俗部分的一个简化版本。」

责任编辑:闫冬(QT0005)

为你推荐

加载更多

北京千龙新闻网络传播有限责任公司版权所有 未经千龙新闻网书面特别授权,请勿转载或建立镜像,违者依法必究新出网证(京)字013号 增值电信业务经营许可证 2-2-1-2004139 跨地区增值电信业务许可证

信息网络传播视听节目许可证0104056号 互联网新闻信息服务许可证11120180003号 京公网安备 11000002000007号

分享到:
QQ空间 新浪微博 微信 腾讯微博 QQ好友 百度首页 腾讯朋友 有道云笔记