随着人们日常生活中社交、生产、娱乐等众多活动逐步向线上倾斜,线上会议、娱乐直播、社交沟通这些场景产生的内容量大幅增加。尤其是聊天信息、视频弹幕、社区评论等即时通信消息,几乎无间断地在网络上大量生成并传播,其中难免会夹杂着一些涉黄涉暴的负面消息。这些不良内容不仅会严重污染网络氛围,如果平台不能有效地识别并过滤这些违禁内容,也很可能会因此承担不必要的风险和损失。
所以,对于集成了即时通信系统的应用来说,如何针对用户资料、群组资料、单聊群聊信息等众多内容进行安全审核并高效识别处理不安全、不适宜的消息内容成了其急需解决的问题。基于这一痛点,腾讯云即时通信IM从用户产品体验及业务安全出发,面向内容安全场景推出内容回调解决方案,帮助客户便捷高效地处理内容安全方面的顾虑。
- 即时通信IM内容回调解决方案的优势 -
1. 接入便捷,延迟更低:内容回调通过直接对接第三方内容安全平台(目前仅支持腾讯云内容安全产品)的方式,可针对图文同步审核,仅需两步就可完成接入,大大缩短了接入流程,无需额外开发,而且延迟更低。
2. 场景丰富,策略灵活:内容回调不仅支持传统的单聊、群聊场景,还支持资料、关系链、群资料、群成员资料等场景,更全面地确保用户内容安全。同时用户还可对单聊/群聊/资料场景分别设置审核策略,通过区分设置实现更灵活的内容安全策略。
3. 支持富媒体,维度丰富:内容回调支持文本、图像、语音、视频等多维度内容识别分析,可轻松应对各种业务需求。文本、图片支持同步审核,音视频内容可异步审核。
- 效果演示 -
- 接入指引 -
步骤1:获取内容回调 URL 和 Token
从第三方内容安全产品处获取内容回调 URL和 Token。(目前仅支持腾讯云内容安全产品)
步骤2:进行内容回调配置
根据您业务诉求,将从第三方内容安全产品(目前仅支持腾讯云内容安全产品)获取的内容回调 URL 和 Token 填写至即时通信 IM 控制台。详细操作如下:
1.进入即时通信 IM 控制台 > 回调配置 > 内容回调配置,单击页面内模块右上角的“编辑”。
2.在“编辑”弹窗中,填入从第三方内容安全产品处获取的内容回调 URL 和 Token,并勾选需要生效的回调内容类型,单击确定(同一内容回调 URL 和 Token,可填写至多个 IM 应用的多个内容回调配置模块内)。
3.查看回调配置和已生效回调内容类型/回调字段。
如果您对内容回调方案感兴趣,想要了解更多技术内容,可点击文末「阅读原文」前往腾讯云官网查看相关文档,或扫描下方二维码加入IM开发者交流群进行咨询。
腾讯云音视频在音视频领域已有超过21年的技术积累,持续支持国内90%的音视频客户实现云上创新,独家具备 RT-ONE™ 全球网络,在此基础上,构建了业界最完整的 PaaS 产品家族,并通过腾讯云视立方 RT-Cube™ 提供All in One 的终端SDK,助力客户一键获取众多腾讯云音视频能力。腾讯云音视频为全真互联时代,提供坚实的数字化助力。