成为互联网上的守望者

一只斗牛犬安逸地躺在沙发上，它的小短腿上套着漏洞黑丝袜，呆萌的狗脸透露着一丝微醺，几分挑逗，上面还飘着“在线陪聊”几个字和一串联系电话，这是搞笑图片吗？

由于人类的逗逼属性，萨摩耶犬、哈士奇、吉娃娃都难逃黑丝袜、高跟鞋伺候。在我看来，这样的画面似乎并没有什么不妥。

（网络上常见的搞笑图片）

易盾审核中心审核员梦姣对一切审核规则了如指掌，她解释说，那张图片最大的问题在于文字和电话号码，涉及打违规打广告，并存在色情低俗问题。

为了提高对非法内容的感知能力，在独立审核之前，我接受超2个小时PPT教育。两位审核中心的负责人的讲解充满了需要“哔”声处理的限制级词汇。伴随着无数次“你还有什么疑问吗？”的提问中，我成了一名新手内容审核员。接下来，我进入了“试用期”，一个人去探索更多的限（qi）制（miao）内（shi）容（jie）。

在一日体验之后，由于内容安全审核系统智能程度的提升和审核机制的优化，我察觉在网易易盾做审查似乎并没有那么压抑和紧张。期间，我和几位易盾现役的内容审核员聊了聊，看看他们怎么说？

01

进入审核迷宫

教师节这天，我被派去体验互联网内容审核员的工作。到底做些什么呢？在好奇心驱使下，我找到了审核中心组长清秋。她已经在易盾6年了，成了我的向导。

一进办公室，一阵寂静袭来。中央空调上的红丝带徐徐地飘动着，室内凉飕飕的，空旷的空间里仅回荡着些许劈里啪啦的键盘声，让人神清气爽。

内容审核员们沉默地坐在工位上，带着耳机，全然不觉有人经过。部分工位还空着，它的主人可能刚在食堂吃完早饭，正三步并作两步地往这里跑。

实际上，网易二期食堂往上行三楼就是内容审核员的办公基地。这里延续了网易滨江园区工业风的设计，清一色冷色调，单面带落地窗。

我路过时数了一下，每排5个工位，前后延绵20多排，一共近百名审核员占满了半边办公室。墙面上是一则指导文件《信息保密准则》，面积有点大，充斥着庄严感。

深蓝和浅蓝色交错的工位虽然传统，但是让人羡慕。毕竟在“共享办公”模式流行之后，到处都是大通铺式的长条形办公桌工位，而在这里，工位被切割成一格格的，桌子边的三块隔板让每个人拥有了自己的小天地。对于互联网内容审核员而言，独立工位设计带来的隐私空间的确可以避免不少尴尬。

在易盾审核团队内，女性占比并不低，占了整个团队的4成。其中，一位金发的女性内容审核员吸引了我，她会在工位上常备保湿水和甜味剂。

“虽然平常的工作有点枯燥，但其实我也能从中找到一些乐趣。”她笑着说，有时会梦到被空投到伊朗，但不是什么恐怖的梦境。在所有核查的信息中，暴恐内容让她印象深刻。我见她时，她正在查看萨达姆的相关Wiki知识，收集暴恐人物的布控素材，并有不少收获。她认为：

这是一份既需要专业，也考验耐心的工作。垃圾信息只会增加不会减少，而且增幅越来越大，未来对审核人员的需求量一定会增加。

02

垃圾海洋与打捞员

时间差不多了，我坐在位置上，进入易盾的智能审核管理系统，跟着审稿细则，开始处理“黄、暴、政、违禁”内容。我被分配了审核图片板块，对机器初步筛选的问题内容进行抽样检查。

如今，从文字到图片，从直播到短视频，UGC内容平台审核量大，人力成本高，需要更有效率的审核管理系统。客户在多平台发布的公开内容，通过接口接入，实时更新到易盾的系统内。接着，系统自动按照不同客户和不同文件类型进行分类。审核员就是里面的管理员，挑挑拣拣。

你可以把它想象成一座现代化的数字工厂。这是一个巨大的数据仓库，数字接口成为数据内容进出的传送道。这里的内容多得像一片海洋。它们不像报纸、杂志那样可以摸得着，堆起来像座小山，它们是一张图片或一段文本，成千上万条被整齐排放在页面上。

经过机器的初选，问题图片被汇集起来。最终，数据统计和指标监控显示在大屏幕上，非常清晰：

一些图片，如裸露的丰乳肥臀、二次元性爱暗示、真人性爱姿势等，很明显存在“色情”问题。

另外一些则打擦边球，它们往往没有露出性器官，只是露点、露沟、特写下半身，但也可能进入监控范围，被归入性感低俗的问题分类。

除上述情况之外，一些显而易见的血腥、暴力、恐怖、涉政图片也时有出现。ISIS、纳粹等恐怖组织的画面或旗帜属于暴恐内容；抽烟、竖中指等不文明现象也在监控范围内……类目之多，让我眼花缭乱，尤其是不少范畴之间还有重叠和优先级判断，因此需要慢慢适应。

部分客户的项目有特殊需求，易盾的审核系统会生成定制化部署规则，有别于标准通用规则，特别需要内容审核员及时跟进。

由于审核规范里有大量知识点，一般而言，一个内容审核员需要经过培训和考试，从错误率和工作量两方面观察是否合格。

据介绍，在易盾，一个成熟的内容审核员，1小时可以完成数万条图片的审核工作，过滤数千条条文本内容。这样的处理速度，意味着审核员需要对违规内容非常熟悉，才能快速辨别是否需要删除内容。

快速浏览数据内容，给各类违禁内容贴上标签，并打入“冷宫”……这样的审核刚开始很兴奋，可到后来相似的图片反复出现，周而复始的操作让人心烦意乱。这个由数据组成的迷宫似乎没有尽头，以文字、图片为主的内容不断从接口涌入。事实上，重复与枯燥普遍困扰着许多内容审核员。

为了适应重复点击，易盾的一位审核员何勇杭给自己配备了一只好的人体工程学鼠标，并找到了心理的平衡点。

闲下来时，他会看看国内外的新闻资讯，既是出于兴趣，也是为了做好工作。与之前需要创意的设计师工作相比，他觉得这份对耐心和责任感要求很高的工作更适合他。何勇杭表示：

“我认为每份工作都有它存在的意义和价值，想要成为一名合格的内容审核专员，必须具备足够的责任感，也要能够在相对枯燥的工作中找到乐趣。内容审核专员维护网络世界的健康，肃清网络世界的垃圾，是一份值得尊敬的职业。”

易盾内容审核员何勇杭

03

别无选择或是新的契机？

这周，一篇报道令外卖员获得了大家广泛的同情。为了日常生计，外卖小哥被系统支配，在不断被压缩的订单配送时间内，不得不冒着生命危险和速度做斗争。

其实，还有太多职业面临被技术和系统操控的困境。互联网内容审核员正是其中之一。他们中的不少人长期大量地观看负面内容，造成严重的精神损伤。

随着“互联网+”的发展，互联网改变了每个行业。不同的是，每一个接过外卖的人都知道外卖员的重要性，但不少人或许还不知道，淘宝、小红书、B站、微博、微信、抖音、快手等一众APP的背后，都有一群内容审核员。从社交、到媒体、再到电商……各行各业都需要内容安全审核。

“连这种工作存在本身都是一种秘密。”记录片《网络审核员》曾这样描述，为了降低人工成本，Facebook、谷歌等互联网巨头把网络审查工作放在印度和菲律宾。据了解，全世界有800到1000个Facebook审核员，他们拿着时薪1美元的工资。

由于任务分工高度细化，不少内容审核员突然变成了《摩登时代》里的查理，一颗大系统内的“螺丝钉”。过去的报道，让我对这份工作的艰难程度有了一定的理解。附近的一位内容审核员王鹏跳了出来，改变了我的想法。

在岗两年的他仍旧觉得大有可为。在他看来，这一行不仅需要对舆情有一定的敏感度，而且得适应多变的互联网环境，持续提高对业务的认知。“虽然内容审核员的门槛不高，但上限其实不低，可以向审核运营、策划相关岗位发展。”

今年以来，互联网内容审核员的上升渠道逐渐明朗。5月，中国电子学会推出了针对互联网内容审核员的人才标准和智能培训体系。互联网内容审核人员可考取相应的证书，享受国家技术人才待遇。

实际上，未来这个岗位很可能发展成介于传统编辑和工程师之间的一种新工种，既需要对实时更新的内容有敏感度，也需要理性逻辑思维，在带动系统智能化的同时，优化审核的效率。

身材壮硕的王鹏曾经是一名摄像师兼视频剪辑。如今，他每天会倒上一杯热水，在电脑前坐定，开始和键盘侠斗智斗勇。他热衷于从垃圾内容中找出线索，从源头进行封锁。王鹏表示：

“这不是一份轻松的工作。工作中面对各类型不良内容，要能把住自己心中的那杆秤。当然，在这里你能遇到天天玩梗、谈笑风生的同事，每天都能收获新知识。在做审核专员时，最大的满足就是看着自己负责的产品一次又一次渡过难关，一次又一次收获进步。”

易盾内容审核员王鹏

如上所述，性感可高级、可健康、可清纯、也可低俗。性感和色情就如同硬币的两面，稍不留意就会走向另一面。虽然机器算法可以率先剔除大量的违规内容，但是其对于概念界限的把握不够有“人情味”。

通过情感理解分析进一步精细化，在保障互联网环境清朗安全的同时，审核员将有温度、有情绪的内容留给用户。

或许有一天，在内容审核员的帮助下，机器算法也能克服“成长的烦恼”，从好助手成长为兼具理性和感性的内容审核专家。