揭秘网络直播平台审核流程:每秒300张截图鉴黄

2016-11-16 16:41 解放日报

打印 放大 缩小

作为时下最热门的信息传播平台之一,量大面广、转瞬即逝的网络直播如何审核监管?

据了解,根据公安部相关规定以及近期国家网信办发布的《互联网直播服务管理规定》,网络直播平台不得利用直播从事危害国家安全、破坏社会稳定、扰乱社会秩序、侵犯他人合法权益、传播淫秽色情等法律法规禁止的活动,不得利用互联网直播服务制作、复制、发布、传播法律法规禁止的信息内容。网络直播平台所在网络公司,应采取技术安全措施,防止外来攻击;还要设立安全团队,对内容、系统、数据等安全进行防护,防止非法和低俗内容播出。而明年6月1日起将实施的《中华人民共和国网络安全法》,将进一步加强网络安全方面的法律规范。

记者从一些直播平台了解到,业内一般采取“机器审核”+“人工审核”模式,同时还采取各种安全技术防护措施。以被网友称为“B站”的哔哩哔哩弹幕网的直播平台为例,过去一些平台采取“每2至4分钟的截图审核”“关键帧监察”“第三方图片识别”等技术模式,从截图到完成人工响应,时间超过4分钟。该网站针对自己网站中“二次元”内容作为“主打”的特点,应用AlexNet的“鉴黄模型”,每秒处理300张截图;嫌疑图片从读图、图片传输、计算、返回结果,全程平均响应时间约2.2秒;10至15秒内,后台人工审核便可完成对嫌疑图片的二次判断。另外,有了它的帮助,监管方能在其他用户没有正常进入直播间前,就切断或锁定直播间,避免有害信息传播。

今年以来,上海公安网安部门主动提前介入、加强源头管理、引导行业自律,组织开展网络直播平台专项整治工作,建立并完善监管治理机制,督促直播平台落实“主体责任”,最大限度挤压网络违法行为空间。其间,共排查本市网络直播平台37家,查处21家,关停违规直播间1000余个,注销未实名认证主播1000余个,有力净化了本市网络空间环境。

责任编辑:陈群(QT0001)

猜你喜欢