最佳实践

2024.04.24 14:59:17

    智能审核平台拥有许多复杂的功能,我们为您抽象出了许多来自真实客户案例的应用场景,供您使用参考

    同时对内容进行审核与质量分评判

    需求场景

    所有内容都进行人工审核,审核通过的数据需要对其进行内容质量打标,用于后续的内容推荐分发

    解决方案

    创建标签内容 创建标签组,将刚才的标签内容绑定到标签组中
    创建模版,绑定标签组
    一轮审核配置,审核所有内容数据,下轮进审设置“只有通过进审”
    二轮人工审核,选择只审通过数据,同时审核操作通过与不通过都关闭,选择标签标注,这样这一轮就只进行内容质量评分

    复审高热度内容

    需求场景

    一条数据通过安全检测后,会被发布在我们的APP里面,这可能是一篇内容丰富的帖子,一个简单图文动态或是一句不长不短的文字评论

    经过一段时间的发酵,他们可能成为了热门帖子、高赞动态、高被回复评论等内容

    基于我们产品的推荐机制,这些内容会被顶上首页,分发给更多客户观看,产生病毒式传播

    为了进一步保障安全,这些内容需要进行二次人工审核确认

    解决方案

    当帖子、评论、动态等内容点赞量/回复量大于一个阈值后,再次抄送易盾接口进行检测

    使用智能审核平台的高级进审设置项,对数据标签内容为“高热度”的内容进行第一轮审核

    若第一轮审核为通过,再安排第二轮审核进行复审确认

    第一轮设置:

    第二轮设置:

    涉及功能:高级进审设置

    可用版本:专业版,旗舰版

    发现处理历史数据中的问题图片

    需求场景

    一些内容在一定时间段内是合规的,但是一些热点事件后这些内容会变的敏感

    比如热点事件后被归为劣迹艺人的明星图片,需要快速从产品内容中删去

    解决方案

    开启“历史归档”功能,永久保存历史数据

    使用以图搜图功能,搜索明星照片

    基于搜索结果中获取的数据ID,在自己的产品中予以删除

    涉及功能:数据归档,以图搜图

    可用版本:全版本可用(功能额外付费开通)

    禁言用户3天并发送私信通知

    需求场景

    内容审核时,可以对用户ID进行加黑处理,设置拉黑时长,并在APP里通知用户被禁言拉黑

    解决方案

    使用标签功能,对用户禁言天数进行设置

    使用备注与快捷短语功能,快速输入APP通知文案

    在审核时选择需要拉黑的天数与文案

    涉及功能:内容审核,标签标注,快捷短语

    可用版本:标准版及以上

    快速查看重复内容,定位黑灰产,数据聚合查询

    需求场景

    每天都有黑灰产在APP里发广告,文案都差不多,要快速抓出这些内容,进行分析并加以整治

    解决方案

    使用聚合查询功能,对单日的完全相同的文本数据进行聚合,一键处理

    使用内容风险统计能力,查看重复内容排行榜,直观看到重复次数与审核通过不通过的情况

    涉及功能:聚合查询,重复内容排行

    可用版本:标准版及以上

    保存搜索场景,快速定位数据

    需求场景

    作为产品的运营经理,每天都要在智能审核平台中查看内容数据

    A业务目前正在上升期,最近被黑灰产盯上,每天都要关注广告相关的内容,做好运营策略应对

    B业务已经稳定运营三年,色情、涉政等内容是需要每天过滤查看的

    C业务最近正在调整拦截策略,近3天的关键词命中量是业务的北极星指标

    解决方案

    在查询页,使用搜索场景解决方案,对每一个业务需要查看的内容提前设置,每天登录系统后只需要切换搜索场景,即可快速搜索查看到自己想要的内容

    涉及功能:搜索场景

    可用版本:所有版本

    重要审核标准紧急通知团队成员

    需求场景

    作为管理者,一些重要事件希望马上通知到团队成员。当审核人员全身心投入审核时,公司群里的通知可能无法第一时间看到

    解决方案

    使用智能审核平台里的公告弹窗能力,所有公告都将即使对所有在线人员弹窗展示,重要信息绝不错过

    离线账号将在下次登录时弹窗回看最近10条弹窗公告内容

    涉及功能:弹窗公告

    可用版本:专业版、旗舰版

    直播音视频质检

    在介绍一种直播音视频质检方案,帮助客户在直播音视频的审核过程中实时质检审核人员结果

    质检方案

    直播音视频质检方式为:质检人员和审核人员一起开展工作 基于直播音视频审核的特殊性。人审后置质检的意义不大。因为直播已经结束,所有的处理都无法挽回 在业界,直播音视频质检往往和一线审核同时进行

    第一步:使用浏览模式

    质检人员进入直播质检模式,选择正在审核的人员进行质检 每10-20名审核人员配备1名质检人员,是比较合理的。客户可以根据自己的预算,选择不同的比例 每个质检人员监控不同的审核人员即可

    第二步:审核页面内容,发现违规点

    和审核模式一样,浏览模式能够实时查看直播内容 和审核模式不同的是,浏览模式的直播获取数量可以很多,这个时候质检人员需要自己翻页来浏览更多视频 在这一步中,质检人员主要用于发现视频的违规内容

    第三步:确认审核人员处罚

    当质检人员发现视频内容存在违规需要审核人员进行处置时,立即点进视频详情中,查看审核人员是否有及时进行处置,通过操作记录模块即可查看审核人员的操作日志

    操作记录会在审核人员操作后立即出现在详情里,质检人员需要给审核人员预留一定的操作时间,通常5-10秒,通过刷新详情页查看是否有及时处罚

    第四步:审核人员操作纠正

    当质检人员发现某个直播的在审人员没有如预期一般对审核人员作出处罚或者处罚有问题(比如标签选错、违规分类选错等的时候,质检人员应该做如下动作 对于线上紧急情况,质检人员可以直接在此进行处置操作,避免危害内容持续流出 立即在职场中到对应审核人员的工位上进行提醒,命令其立即修正该审核错误 如果不是在同一职场办公,立即在交流群中反馈,交由专人在职场中进行提醒 质检人员手动记录本次发现的问题于在线文档中,文档中包含、审核人、质检人、出问题类型、问题直播taskid等内容

    第五步:质检复盘

    质检人员每日进行质检结果汇总,供审核团队内每个审核人员查看 每周进行质检次品分析,针对性培训团队的审核弱项 每个月分析每个审核人员的准确率情况,进行绩效考核

    Online Chat Tel:95163223 Free trial