本文基于《内容审核员能被AI“拯救”吗?——深度解析内容审核的困境与未来》的主题演讲进行整理成文 ， 主要讨论机审人审在内容审核的应用前景 。
一、“紧”与“松”不是对抗 ， 而是共生“紧”与“松”的问题 ， 其实是对内容监管趋势以及内容平台生态建设的一个总结 。
“紧”可以分为两个方向 ， 一是监管要求 ， 另一个是监管力度 。在监管上 ， 从2019年开始 ， 随着数字经济蓬勃发展 ， 以及疫情加速的线上娱乐迅猛攀升 ， 涉黄、涉政、涉嫌违禁的内容日益受到监管重视 ， 并且也细分出隐晦色情整治、电信诈骗内容整治、包括对未成年人的保护等具体要求 。这些要求正在逐步弥补各类平台“野蛮生长”时期的规范空缺 ， 对各类风险内容以及过往忽视的新发风险予以关注 ， 实际上也在树立内容生态发展的相关规范 。
另一方面 ， 监管力度是监管要求有效性的强力保障 ， 监管要求、监管力度、监管处罚是对应匹配的 。所以我们能够看到一些平台因为违规被处罚的新闻 ， 这种监管力度的信号其实就传递出对监管要求执行的坚决度 。这两点构成了广义上的“紧” 。
从内容平台的角度出发 ， 其实渴求的是“松” 。绝大多数的APP其实都在想方设法提高自己平台的内容活性 ， 无论是打造出社区/直播/评论/聊天等等功能 ， 本质目的是创造活跃的UGC生态 ， 让用户在平台创造内容、产生联系、持续活跃 ， 获得畅所欲言的快感或是满足天然的社交需求 ， 这是内容平台渴求的“松” 。
“松”看似是一个逆监管要求的想法 ， 但它并不是说触犯红线或逾越红线的松 ， 比如放任用户随意发送色情内容 。平台在打造用户体验的同时 ， 同样抱有着最大程度满足合规要求的诉求 。在风控上也对红线的基础问题十分明确 ， 希望能及时发现和处置真正有风险的信息 。
因此“紧”和“松”并不是剑拔弩张的对立关系 ， 实际上是一种共生关系 。
二、纯人审符合直觉 ， 但低效的审核方案最早出现的审核模式就是人审 ， 但人工审核有三个明显的缺点 。
一. 监管理解有难度数美在为大量客户提供服务的过程中发现 ， 大量腰部的中小型企业往往团队规模比较小 ， 成立年限比较短而且集中投入在产品上 ， 没有精力投入到合规研究中 。
合规研究主要有两方面门槛 ， 一是舆情关注 ， 要持续地关注最新的监管动向 ， 关注信息渠道是一定会占用、且会持久占用人力的工作 。因此中小型企业往往不会投入成本来设置专门人员关注舆情 。二是对新规的理解 ， 也就是每一条描述对应了什么样的案例 。当面对一条抽象描述时 ， 如何判断平台数十亿信息哪些需要拦截和清洗 ， 这需要一个经验丰富的人来理解 ， 想组建一个团队集结这样的人 ， 难度是非常大的 。
二.高成本问题内容审核问题是一分为二的 ， 除了要不断监控新发送的内容 ， 也要对历史发送的内容进行重审 ， 总数据量是非常庞大的 。以数美为例 ， 文本、图片的日均量都是亿计 ， 音视频时长日均超70万个小时 。
人工审核在处理音视频的时候只能简单粗暴地听一遍或看一遍 ， 如果有不清楚的可能需要重复2-3遍才能判定风险 。这就意味着内容有多长 ， 审核就要多久 ， 甚至更久 。这就会产生更多的衍生问题 ， 比如固定的单人审核能效必将导致更加庞大的审核团队 ， 又或是等待审核时长过长导致的用户流失 。因此这既是效率问题 ， 也是用户体验问题 ， 但最终都会回到成本问题 。
推荐阅读
- 体系审核员报考条件
- 什么贷款app容易通过审核
- 卫生与健康手抄报内容资料
- 微信8.0.20更新内容有哪些 微信8.0.20更新内容介绍
- 求凡人修仙传结局详细内容
- 马克思主义唯物论内容与重要意义
- 大学老师一般发票可以开什么内容
- 马克思列宁主义的主要内容
- 车辆年检为什么要拍审核复检上传
- 求概括荔枝蜜的主要内容