网易云如何发布原创_原创 网易易盾升级内容安全体系 发布智能审核管理系统

内容安全已经成为全球互联网生态管理的课题。 网络平台的多媒体内容在爆炸带来大量信息的同时，泥中也蕴藏着大量有害信息。

随着内容平台的迅速发展，灰黑产被视为“流量蜜罐”，利用流量暴露的机会，嵌入黄赌毒等不良信息和大量垃圾广告等。 据不完整的统计，2019年，数千种应用和服务因内容安全问题遇到关闭停止等整改，业务发展遭遇巨大损失。

2019年12月19日，网易盾在北京成功发布了2019内容安全智能系统，易盾就内容安全系统建设共享了积极的思路，正式发布了面向智能时代的审查管理系统，数百名企业内容参与，共同建设和实践内容安全系统

据调查，有害垃圾的内容约占网络UGC内容量的3%。 其中最多的是各种违法广告类，其次是涉黄低俗类的信息和有关涉毒的信息。 随着内容多媒体融合、5G等信息基础设施的发展，互联网内容也面临着巨大的爆炸，内容安全压力日益严重。

网易盾CTO朱浩齐

网易盾CTO朱浩齐认为，只有业界共同努力，构建智能驱动、统一联动、个性化定制、共同构建大众治理的内容体系，才能全面有效地解决内容安全问题。 智能驱动器:在新一代内容安全系统中，智能技术发挥了驱动引擎的作用。 目前，超过90%的高容量实时多媒体内容已被智能技术精确识别和过滤。 自然的意义、图像识别、声纹识别等，在内容的安全领域已经成熟、彻底落地。 统一联动:内容安全需要从根本上解决，联动账户安全，全链接联动识别分析。 通过采用认证码、注册保护、注册保护等防篡改技术、内容的安全云能力与本地审计管理系统的结合，能够更有效地减少有害内容的发生。 个性化定制:实时视频、网络文学、社交媒体等各个领域的内容管理规定不同，需要根据产品形态灵活定制各自的内容安全战略。 共建众治:有害的内容是社会课题。 企业需要有效整合政府法律、技术服务、同行联盟、用户等多种力量，有效打击灰色产品，构建清新的网络生态。

这次，网易盾还发表了面向智能时代设计的监查管理系统。

在未来很长一段时间内，内容安全仍然是人与人的协调模式，各大平台必须拥有一定规模的人工审查部门。 但是，易盾在调查时发现，审计管理长期缺乏共同规范，操作背景长期得不到研究开发的帮助，许多审计管理系统操作繁琐、设计老旧、功能落后，甚至有一些操作需要在多个背景下处理的问题

对于爆炸性的内容增长和严格的管制要求，审计管理系统是企业内容安全的最大弱点，严重影响了审计效率和安全要求。

网易盾此次发布的审计管理系统针对智能时代的审计机制而设计，具有功能丰富、智能高效、轻量灵活、互动的四大优点。 丰富的功能:为多种业务场景提供视频模式，包括面向内容的预处理、多次审核、支持质量检查的全生命周期管理实时语音视频和长文档。 智能高效:支持基于机器学习的群集审计、同类内容的及时警告、审计人员能够迅速阻止扩散的大型审计团队的同时操作，并且能够智能地进行分组。 轻量级灵活性:无需技术支持即可快速访问，支持SaaS和私有化定制，客户可以灵活地定制内容界面、安全策略、外观和业务模块。 相互友好:深入审查团队研究的相互习惯，优化接口的相互作用、功能配置和操作流程。 确立积分奖牌等游戏化设计，有效降低审核疲劳。 单手操作等无障碍的设计，残疾人也能简单地操作。

网易盾产品总监筵晓艳

网易盾产品总监饶晓艳表示，评委是企业内容安全的重要保障力量，为公司的健康发展付出了很多费用，很高兴为评委设计出友好温控的管理体系，使他们的工作更加简单快捷。

网易盾产生于网易安全全部，在内容安全领域固定下来已超过20年，自2016年成为对外商用以来，服务于数千家企业，其中有OPPO/VIVO、b站、现场直播等着名客户，每天过滤有害信息超过十亿条，现在