90后网络安全卫士使用大数据的“遏制”战争

原标题:90后网络安全卫士:使用大数据的“封锁”战争

一个“违规”信息，从出现到消失在互联网上，只有大约一分钟。

背后是一个“神秘的”专业——内容安全审计员。文本、直播、音频、短视频、不同形式的内容对应不同的筛选技术和审计机制；快速、准确、一切都是每个审计师的工作信条。在

85之后，克里斯每天都带领一群90后在网上“包围”并互相残杀。

“90后”、“24小时”和“大数据”.当这群人努力“保持互联网的底线”时，外界从未停止讨论“黄丽芙”。

是保护还是入侵？圈子内外持有不同的观点。第一批走出去的人试图为整个行业找到更清晰的生存意识和方法。

那天下午4点，埃迪走进茶室休息了一会儿。在巨大的落地窗内，灯管和显示屏发出的光线照亮了房间，不分昼夜。

这更像是一家网吧。成排的计算机和它们的用户是统一的，粗略计算至少有数百台计算机，与数百人相连。每张桌子都有一副耳机，每副都有两个显示屏，手边的饮料和小吃可以随意拿走。

网吧里似乎没有那么轻松的气氛。一小时前，埃迪坐在电脑前，他的眼睛在左右显示屏前徘徊，突然停在某一页。大屏幕上出现的是一个女人身体的模糊图像.

”这是用户的头部图像，它以模糊效果避开了机器检查。从暴露区域来看，敏感部位是色情的，而不是性感的。”他以高速点击鼠标并刷新它，因此全屏拍摄开始了又一轮跳跃，永远不知道下一刻会出现什么“惊喜”。

躲在两个大屏幕下，他看起来很平静，好像在解决一道数学题。

"没有一家互联网企业不重视内容安全。将来会越来越受到重视，因为这是底线。”埃迪所做的确实是一个难题。内容安全可以理解为基于某些技术和算法在互联网上精确识别、筛选和规避海量数据中的特殊信息。重点监控与政治、色情、暴力和垃圾广告相关的信息。当然，黄河是一个灾区。

"文字、图片、直播和短片应该被完全覆盖。不仅要有技术，而且要有大量的审计员一天24小时都在第一线进行信息筛选。”结果，数百人和埃迪一起面对大屏幕，点击鼠标，开始追逐非法信息。

这是下午最热的时候。建筑队在窗外排队。这是佛山广东金融高新技术服务区。BIGO音视频社交网络平台的内容安全团队就在这里。

以工作为乐的网络农民工，这是克里斯的立场。

2010年，他走出广东财经大学大门，没有和同学选择同一条路，握了握手，转身离去。"在学校，每个人都像首席执行官一样，想成为巴菲特和比尔·盖茨."我学习工商管理，但我对游戏特别感兴趣。刚刚大学毕业的克里斯选择了一家互联网公司作为他的第一份工作。

始于社区运营。“每个人都认为这件事只是删除和回复帖子，就像张贴酒吧老板一样，但没那么简单。”在网络社区和论坛正常化的那些年里，克里斯的主要工作是做网络社区的运营和维护，处理非法内容，维护基本的社区交流环境。

”事实上，从那时起，国内互联网产品背后就有这样一个拦截小组。只是大小不同罢了。”克里斯偶然接触到一个直播平台。“当用户最多的时候，只有400个用户，但它总是活跃而不温不火的。”玩游戏时，如果用视频直播代替图形直播，用户数量会改变吗？克里斯和团队开始尝试内容切换。用户激增，尝到了直播的好处。这个问题也出现了。

克里斯是一名社区操作员，他熟悉违反规定的“常规”，这就是行动

他在同一时期看了几个直播平台，却发现每个家庭都是一副“抱歉的表情”。“什么是内容安全？如何使内容安全？那时，你发现你可以在任何行业找到《从零到一》指南。内容不安全。它在市场上根本找不到任何指引，因为这个行业太新、太神秘了。”

没有工业，但有需求。内容安全必须放在第一位。这场“防御性战争”也需要一个稳定的人来做。"我性格稳定，对我的工作负责。"2016年，在中国直播互联网的第一年，克里斯在85岁后离开了互联网公司，加入BIGO的内容安全团队，成立了一个“突破团队”作为团队的首席执行官。

这不是sun作业

"据说是黄健知道事实并非如此。"

每天晚上9点，从晚上开始，第一线审计员埃迪正式到岗，开始一天的工作。2017年，24岁的埃迪加入BIGO，担任一线审计员。

去工作站，坐下，打开双屏电脑，无数截屏反弹回来。

这是实况演播室的实时截图。“每天都有成千上万的主持人现场直播。一个接一个地看已经太晚了。”所以他们想出了一种方法，定期拍摄工作室的照片，把机器送去检查，然后送到手册上进行第二次检查，以确保工作室的“干净”。

结果，无数的图片跳进了埃迪的电脑，夜越深，它们跳得越猛。12点钟，晚上绳索上锚的数量逐渐达到高峰，埃迪的神经越来越紧张。——一个锚被暴露，他的胸部暴露超过1/2，这是非法的。主持人讲话的含意太明显，恶意诱导和违反规定。演播室里的人数立即激增。它不是星星。据估计，有些人想打破规则。

“这黄剑在哪里？他是一名网络警察。”在夜深人静的时候，无数个小时里，埃迪用了成千上万张截图。第二天6点，天会亮，夜战悄悄结束。

有点空虚，身体被掏空，24岁的埃迪发现自己瘦了一点。原来是一个130公斤重的男孩。称重后，结果是120公斤。

克里斯比任何人都更了解自己的工作性质，打开搜索引擎，还有很多关于“黄施简”的话题。他不得不一遍又一遍地告诉员工，我们是站在黑暗中，带着尊严和正义做事的英雄。

六个月后，埃迪以优异的表现晋升为组长，专门从事写作领域的检查工作，半年后又晋升为组长。2019年，他成功地担任了内容安全团队的国内业务负责人。

整个内容安全行业都是和埃迪一起成长的。

“快速、准确、完整。这是业界喜欢的三个词。”在快车道上，从违规信息的出现到消失，3分钟是底线；在准确性上，100%是上限，99%是下限，每个人都在为小数点之间的差异而战；总的来说，底线不能被遗漏。如果出了问题，那将是人民的责任。

最后，这是人与机器的匹配。你是否打得好取决于你是否熟练。有多聪明？克里斯专注于背景筛选。根据“受欢迎程度”、“等级”、“报告量”和“注册方式”等条件，筛选用户，找出不同于“普通用户”的“高风险用户”，并在后台列出和监控。

同时，跟踪用户的行为。“有些人喜欢看一些‘非法内容’，但他们没有违法行为。我们可以找到这些用户，让他们帮助我们找到一些漏洞。这是“对用户行为的跟踪”，也是基于大数据。”

克里斯不会太在意一条没有人走过的路。他更关心的是如何稳步而坚定地站在他的脚下继续前行。

“这个帖子离我家很远，所以我不怎么说话。和朋友开玩笑。社会层面对我们的行业知之甚少，得到的反馈也太少。

在互联网时代，我们看到的许多内容都是积极、阳光和正面的，因为不良内容会被类似的团队过滤掉。

这个行业的未来是显而易见的。互联网的发展势不可挡，政策管理将继续严格。今后

制作:杜南编辑指挥中心统筹:杜南人民新闻演播室采访:杜南记者董晓燕照片:杜南记者谭庆菊

编辑:金歌