“黑夜总会过去”在新闻客户端上发不出去，因为“夜总会”是敏感词；“起名”、“神仙”等词汇出现在短视频中会被限流，因为涉嫌封建迷信；综艺上歌词“一吻便杀一个人”要改成“一吻便刷一个人”，因为不正能量……进入2020年，这些事件几乎每天都在发生，尤其在日益红火的短视频APP上，q（钱）、s（死）、gj（国家）、zgr（中国人）等缩写词汇蔚然成风。
许多人都敏锐地感知到，今年审查的尺度越来越严了……进入五月，许多网站还掀起了一阵针对恶意营销账号的专项整治行动。
以微博为例，早在4月28日，微博就通过社区管理官方微博“微博管理员”发文称，将依据《网络信息内容生态治理规定》，集中清理相关违法违规信息，严肃处理涉及恶意营销的账号。5月1日，官微再次发出公告，明确了恶意营销内容的分类：
另一个内容平台豆瓣，也早在四月初就发布公告，表示要依据有关管理要求，展开网络信息内容生态治理工作。进入五月，豆瓣和微博一样开展了网络恶意营销账号专项整治行动。其他平台如知乎、今日头条等亦然。
所谓的《网络信息内容生态治理规定》，即WXB在去年12月推出、今年3月1日开始实施的一项规定。新规明确了服务平台及内容创作者合法发表言论的范围，同时亦鼓励他们创作符合社会主义价值观的内容，另外亦严禁网络暴力、人肉搜索及操纵账号等行为。
与以往出台的条例相比，这次该办公室出台的新规更细致也更严格。或许是受新规影响，一批网站受到波及。4月8日，百度官方突然发公告称将关闭部分频道，认真整改。目前，百度信息流推荐基本已经恢复，文章来源大多是官媒而非百家号，内容也很正能量。
另两个受到波及的网站是知乎和豆瓣。4月16日发文称，因为对用户发布的违规内容未尽到审查义务等问题，知乎和豆瓣被北京网信办分别予以20万元、25万元的行政处罚。
在强大的自我审查和饭圈粉丝的合力下，越来越多的词汇被剥夺。这些年，内容审核行业发生了什么？从最早的新闻资讯审核，到如今短视频、直播等一切互联网内容的管控，中文互联网走到今天，并非无迹可寻。
对于，娱乐资本论矩阵号营销娱子酱（ID:yingxiaoyuzijiang）采访了诸多审核员，他们告诉我们，目前机器审核已经可以对词汇的同音、拼音、形近等变形进行智能识别，如果真是敏感词，用缩写也没用。而目前很多词汇的缩写，则属于底层内容制作者对于黑箱审核条例规则不透明的恐惧，而进行的自我选择。
这些审核员，则大多数住在武汉、济南、西安这样的二线的工资（在北京工作的海外审核能破万），过着三班倒的生活，虽然工作轻松，却没有职业前景和归属，甚至不少属于被运营岗的职位“骗”进来的。
尽管AI识别技术在进步，机器审核也越来越成熟，但在营销娱子酱（ID:yingxiaoyuzijiang）的采访中，几位内容审核编辑都表示，现阶段人工审核依然具有不可替代性。“许多意识形态相关的内容机器没法判断。”
一位现已离职的审核员A告诉营销娱子酱（ID:yingxiaoyuzijiang），抖音等短视频APP里，95%的短视频都是机器审核，但一些粉丝量较多、影响力大的账号，所发视频则是人工审核。如果素人的视频播放量超过1000，也会在机器审完一遍后进行人工二审。
为了节省成本，字节跳动在天津、济南、成都等地都成立了分公司，从当地招聘审核人员，和员工签订的合同也多为外包。
据南方周末报道，目前中国内容审核的产业格局是，天津、济南是北方的两大基地，西安是西北地区基地，重庆、成都负责西南地区，武汉则负责华中地区。许多人都拿着四五千元的工资，24小时轮班不停作业。
“字节跳动的审核团队划分得很细。”一位在去年离职的审核员B透露，抖音的审核团队会分很多队列，比如高危队列、青少年队列等。高危队列里都是被标记为高危内容的视频（如涉及到时政的或从敏感地区上传的视频），青少年队列里的待审视频，则是用户选择青少年模式时会看到的视频，审核标准比其他视频更严。
每个人只能固定地审自己所在队列的内容。不同的队列会采用不同的审核方式，有的要看完整个视频，有的是只听音频，更多的是看标题、封面和关键帧。
“时长不同，看的帧数也不同，一般一个视频得看24帧截图。”这名离职的审核员告诉营销娱子酱（ID:yingxiaoyuzijiang），经过机器一审后，标题、封面和视频中的敏感词会被框出来，目前视频中的文字经过截图分析已经能被准确识别，不管字幕是用汉字还是字母缩写，只要是敏感词都会被查到。
被判定为高危视频的，在经过人工二审后，还会经过一轮人工审核，“审核老手得再审一遍。”
如果漏放了违规视频，除了扣绩效以外，主管还会把涉事人员名字写在黑板上，“让公司基地小组的人都记住。”违规视频一般分为广告、违禁、涉政、色情、暴恐等几大类，其中涉政、色情和一些涉及到自残等血腥内容的视频被漏放后果最严重。
而音频的审核，在技术上则主要依靠声纹检测和语音识别。前者可以检测到娇喘、ASMR等声音，后者则被广泛运用到各种直播中。图片的审核运用的主要是OCR识别和人脸识别等技术。
相比之下，文字内容的审核更为简单。各类敏感词的同音、拼音、形近、拆字和符号等都能被智能识别和修正。不过，目前的过滤机制还无法很好地结合上下文识别语义，所以才会出现各种误伤。这种现象在晋江等网文平台上尤其明显。
“所以业内也有说法认为这些网文平台不太有钱，无法雇佣起大量的审核人员，只好依赖机器识别。”某位运营资深人士告诉营销娱子酱。
通常情况下，是首都级别的WXB出台规定，各地地方办公室响应，互联网公司再根据归属地办公室的要求制定具体的审核细则，政策的变动会影响到具体细则的调整。
如果遇到重大事件，不仅审核细则要调整，整个公司的审核团队也要调整。比如2018年字节跳动旗下“内涵段子”被封，字节跳动即再招聘4000名审核员，把审核团队扩充至一万人。
一位当时在今日头条工作的运营人员C告诉营销娱子酱（ID:yingxiaoyuzijiang），那段时间各个平台都经常被约谈，“甚至某大公司管政务的副总裁还离职了。” 作为一名资讯内容运营，C经常能在一天之内接到上百条北京办公室下达的指令，什么新闻不能上首页，什么新闻要立即删除，都得迅速执行。
对于审核标准的变化，C认为有关部门的审核逻辑其实并没有变，但审核的范围越来越大，出台的细则也越来越多。比如去年某一线明星离婚，都会下达指令让客户端减少推送。
短视频方面，一位现已离职的某短视频审核人员告诉娱子酱，审核细则虽然经常有微调，但大的变化很少。只要背熟审核规则，记住例子，就能下意识地审核，除了特殊时期审核标准会更严。
为了让审核员们更好地把握底线，审核部门经常会举行培训，尤其是出台新政策以后。比如去年年初出台的《网络短视频内容审核标准细则》，去年12月出台的《网络信息内容生态治理规定》，审核和运营部门都会组织学习。
经过2018年的大整改，互联网内容审核行业发展迅速。市面上出现了很多提供机器审核业务的第三方产品，如网易易盾、图普科技、阿里绿网等。一些擅长把握政策的公司内容审核业务增长很快，如人民网。财报显示，2018年其第三方内容审核业务收入同比增长了166%。
人民网还在2019年年报中表示，“公司发挥在内容领域的独特优势，为客户提供内容风控服务，业务范围涵盖图文、音乐、网络文学、动漫、音频、 视频、公众号、小程序、游戏、广告、运营活动等。”
大公司的审核部门也越来越专业。据端传媒报道，最早互联网公司招聘审核人员时，会直接问面试者是否知道某敏感事件，但这样做有风险。如果面试者没通过，把这些敏感内容透露出去怎么办？所以现在招聘时，公司只会问面试者对时政热点的看法。
经历过这些事件后，现在短视频平台的审核标准已经接近于行业的最高标准了。而这一点，几乎成了许多和短视频平台合作的地面频道工作人员的共识，湖南地面频道一位总编室主任就曾告诉河豚君：“很多我们地面台能播的视频，比如说夫妻床上聊天、抗战神剧镜头，短视频平台都会被限流。”
在这个24小时不停歇的审核机器里，每个审核员都是流水线上的工人，工作内容朴实无华且枯燥。
“我们每天8小时的任务时长，审完3500个视频是最低标准。”一位离职的视频审核员告诉娱子酱。算下来平均每8秒就要审完一个视频。
在具体的审核过程中，涉及到政治的敏感内容其实很少，大部分是广告和色情内容。对审核员来说，伤害最大的则是自残等血腥暴力内容，以及一些用户自以为没人能看到的色情内容。“我们经常在后台看到有女生发‘仅自己可见’的裸照。但你以为真的仅自己可见吗？”
需要熬夜和工作枯燥还不是最“劝退”的，最让审核员坚持不下去的其实是工作前景。审核工作技术含量不高，很容易让从业者感到恐慌。但由于互联网公司审核需求持续扩大，再加上大学生就业压力与日俱增，许多名校毕业的学生也开始做审核员。
“我们公司的海外审核团队就从北京外国语大学招了很多学小语种的学生。”一名在国际上取得优秀进展的APP运营人员告诉娱子酱道。这些刚毕业的大学生拿着一个月一万多的工资，每天的工作也不是很忙，就像温室里的花朵。其中不少人都是被“骗”进来的，“招他们进来的JD（岗位描述）上很多都写的是运营，尽量避免出现‘审核’字眼，他们进来后即使觉得职业发展前景一般，但考虑能进我们这样的大公司也不容易都会忍一忍。”
被审核改变的不止有审核员，还有内容创作者。审核越来越严，谁都不知道安全线在哪。于是，缩写蔚然成风。
意大利up主“路卡和瑞丽夫妇”就在B站吐槽过短视频APP的审核规则。疫情期间，他们让远在意大利的父母发了几个短视频，表达对中国的感谢，视频中已经把“中国”换成了“zg”,”国家”换成了“gj”，“疫情”换成了“yq”，但都无法过审。
还有很多人在短视频上发视频，会把”钱”用“q”代替，“死”用“s”代替。总之凡是涉及到钱和负面内容的词都会用缩写。但多位审核人员都向娱子酱表示，他们并不会对这些常用词作限制，真正掌握生杀大权的是运营人员。
运营人员会对部分打擦边球但能过审的内容限流。比如有广告营销嫌疑的，所以很多人在发与此相关的词汇如钱、付费、赔偿等就会用缩写。另外有些涉及政府的也会被限流，最出名的则是众所周知的“JC”、“GJ”、“YH”等。
甚至，最近有人发现带有“起名”字样的视频也被抖音限流了，原因可能是近期流行的“短视频大师起名”涉嫌封建迷信。
前段时间音乐综艺大量改负面歌词，也是节目组自我审查的结果。烟酒、纹身是不能出现的，“死亡”“牢笼”等负面词汇更要严控，正能量的光辉洒满大地。
模糊而笼统的审核规定把审核系统变成了一个漏斗。内容平台在具体审核时，本着“宁可错杀一千也不能放过一人”的原则，往往会设置比官方要求更严的细则。和主管部门一样，平台在审核时也不会告诉内容创作者具体的审核标准，这只能导致底层更严重的自我阉割。
不只是视频，文字内容也被污染。从最早人们发文时常说的“你懂的”到如今论坛里遍地的“zz”“zf”“jc”等缩写，越来越多的常用词被剥夺。慢慢的，人们失去了深入探讨问题的意愿和能力。
犹记2017年，大张伟曾写过一首推广曲《不服来抖》，他说那是他最后一首朋克作品。歌词里原本想唱“我一刀捅了你的文艺/我一刀砍了你感性”，但是这话不能播，于是就变成了“我一抖跺了你的文艺/我一抖碎了你感性”。
如今，即使是这样改后的歌词，真的还能播吗？人人慎独的世界，谁都不知道自己下一秒会不会踩雷。
- 本文固定链接: http://www.douyinkuaishou.cc/?id=28038
- 转载请注明: admin 于 抖音快手 发表
《本文》有 0 条评论