内容审核行业研究 内容审查程序( 三 )


其次 , 人审人员的另一大压力其实是心理压力 , 因为他们是长期暴露在暴恐、色情图片文本的环境中的 , 会接受长期的视觉刺激 , 数美人审平台采用热力图马赛克的设计 , 能够在敏感部位打上马赛克 , 尽可能地减少人审人员的心理负担 。
另外还有一些提升工作效率的设计 , 比如除了展示识别出的风险标签 , 同时也在图片上框选标注出问题出现的位置 , 这样人审人员能够更快地关注到审核重心的位置 , 节约寻找时间 。还有就是在展示问题标签的同时可以提供标签定义的展示 , 同时也会包含一些背景信息 , 这样当一些冷门或者偏门的风险被识别出来的时候人审人员很快就能判断 , 比如历史事件、别国领导人形象、地区恐怖组织的标志和旗帜等等 , 这在之前是需要大量的培训成本或者查阅时间才能实现的 。
做这样一系列的设计 , 其实都是为了人审人员能够更轻松、更高效、更健康地完成审核这项工作 。数美希望人审人员都能拥有更健康的职业生涯 , 同时也希望人审工作能更加人性化 , 而这些愿景在机审层面上除了要不断优化机审效果 , 尽可能精准识别风险、过滤海量正常内容外 , 人机结合的交接部分——人审平台的设计也是非常重要的课题 , 它兼具重大的商业意义和社会意义 。未来数美还会继续优化平台设计 , 希望能为尽可能多的人审人员提供更好用的平台 。

推荐阅读