前言
《网络安全法》作为中国第一部全面规范网络空间安全管理方面问题的基础性法律，自2017年6月1号起实施，至今已有4年时间。此后几年，《国家网络空间安全战略》《通信网络安全防护管理办法》《网络产品和服务安全审查办法》等网络安全法律法规和战略规划相继出台。
可以预见的是，监管部门对网络内容安全监管将日趋严格，企业约谈、整顿、罚款、关停的案例已经屡见不鲜。那互联网企业要如何做好内容风控呢？
为了解决数据内容安全问题，腾讯云对象存储COS推出了一站式内容审核，提供了包含图片、视频、语音、文字等全品类数据的内容安全智能审核服务，帮助用户有效识别色情低俗、违法违规、恶心反感等违禁内容。
VIPKID是全球增长速度最快的在线青少儿英语教育品牌，对内容健康问题尤为关注，但怎样才能快速、准确的识别直播中的违规内容，为在线教育建设绿色健康的平台环境？
VIPKID：成本最优，按截帧频率收费，可规避教学直播场景中低俗色情、虚假广告、抽烟赌博等违规内容风险。
VIPKID是如何规避内容风险的呢？下面我们来拆解下。
VIPKID
直播流传输到 COS
对视频帧进行审核
对于教学中裸露身体的场景，COS内容审核支持根据审核分数进行灵活配置，控制涉黄尺度。此外，COS还拥有广告审核的能力，VIPKID的存量教学视频中如果有其他厂商的logo，则会自动替换。
如上图，是VIPKID使用内容审核的应用流程：学生在直播上课时，直播数据传输到VIPKID的服务器，VIPKID将直播的视频进行截帧传给COS，COS为其进行涉黄、涉政、广告的审核，审核完后将数据传输给VIPKID，VIPKID决定是否切断直播。
内容审核核心优势：
- COS存储 内容审核，一键开启一站式完成内容审核，无额外流量消耗；
- 成本最优，按截帧频率收费，可以根据场景和涉敏概率，灵活控制截帧数；
- 机器识别 人工复检，确保审核结果的准确率高达99%；
- 功能多样，增量数据上传时自动审核，存量数据支持批量审核；
- 性能高效，服务秒响应，有效保障用户直播教学体验，VIP客户可定制高达上千QPS，适用极端审核情况，应对快速变化的监管需求；
- 场景化定制，紧跟时事热点，通过大量实时数据进行训练，快速应对时政变化。
除了上面说到的视频截帧审核，COS还支持对语音、图片、文字等全方位内容检测，详情如下：
图片审核
采用前沿的图像识别算法，结合海量的违规图像数据进行训练建模，覆盖度广、识别准确率高、召回率高，并实时跟进监管要求，不停地更新审核服务的识别标准和能力。图片识别场景包括：
色情：识别多种涉黄违规类型的图片，如色情漫画、涉黄图片等
广告：识别多种形式的广告图片，包括网络小广告、微商商品图片、招嫖广告等
违禁：识别多种违法违规内容，包括抽烟吸毒、赌博、打架斗殴等
视频审核
利用视频截帧能力将视频帧进行图片审核，可自定义截帧频率，有效降低视频审核成本。审核的结果可在控制台可视化展现，还支持视频违规自动或手工冻结，拥有和图片审核一致的识别场景。
音频审核
使用前沿语音识别算法构建的语音识别（ASR）引擎，能够对语音的内容进行转译处理，识别违规内容包括色情、广告、低俗、灌水等。并能结合音频特征识别技术，准确识别低俗语音（呻吟、娇喘、ASMR）等违规内容。还兼容各种地方口音的普通话，高效协助用户审核处理视频直播、语音直播或对话等场景产生的音频数据。
文本审核
采用前沿的自然语言处理算法，结合海量的敏感关键词库进行建模，并配置有多种预处理和匹配识别规则，快速准确识别各种变形文本，例如拆分字、形似字、音似字、带有干扰符号的句子、有歧义的短语，可有效过滤违规数据，打造快速、高质、稳定文本审核服务。
通过上述VIPKID规避内容风险的案例，相信您对COS内容审核功能已经有了一定的了解。
无需自研投入，通过COS控制台或调用API接入，即可轻松对增量和存量数据进行音视图文全方位内容检测服务，快速高效识别违规内容，助力企业规避安全风险。
当然COS内容审核除了能解决在线教育场景之外还能解决更多的场景，如：社交平台、电商平台、游戏应用等，以最优成本、高性能、秒响应的特性有效保障用户体验，并为您的网络安全保驾护航。
近期，COS推出““净网行动”数据护航”活动，内容审核资源包低至1元起，了解更多活动信息请前往：https://cloud.tencent.com/act/pro/content_audit
除此之外COS还推出数据处理体验中心，识别下方二维码即可体验。
心动不如行动，快来挑选您适合的资源包，为内容安全开启护航吧！
END
