随着信息技术的发展和智能终端的普及，互联网内容从文字、图片、音频，到视频、直播，展现形式层出不穷，内容主体也在不断丰富。数量庞大、形态多样、主体多元的互联网内容行业，也出现了鱼龙混杂的局面。低俗、暴恐、标题党、历史虚无……互联网上出现的种种问题交织在一起，对国家安全、社会安定、和谐，特别是对青少年成长，都造成了不良影响。

党的十八大以来，党中央高度重视互联网的发展与治理，统筹协调涉及政治、经济、文化、社会、军事等领域网络安全重大问题，作出一系列重要部署。习近平总书记多次在重要会议、重要场合就网络安全和信息化工作发表重要讲话，提供基本遵循，指明发展方向。

01政府部门频“亮剑”  内容风控作用显

政府对于互联网环境的治理与改善越来越重视，2017-2018年，政府主管部门座谈、约谈和处罚30多起内容安全问题，各部门监管法规陆续出台；2019年截止6月，国家网信办关闭、取消备案网站4644家；2021年仅2-3月，国家网信办在“清朗·春节网络环境”专项行动中，累计清理相关违法违规信息208万余条，处置账号7.2万余个，封禁违规主播7200余个，协调关闭、取消备案网站平台2300余家，下架APP520余个。由此可见，监管部门对于为大众打造良好有序的网络环境，具有壮士断腕的决心和剑及履及的执行力。

电商、金融、社交、媒体、游戏、房地产等等，各行各业都离不开审核。随着《网络安全法》《网络安全审查办法》落地实施，信息安全攻防渗透测试和信息审核评估成为网络安全维护的关键环节，互联网信息审核员的工作将越来越重要。2020年，人社部也在“网络与信息安全管理员”下增设“互联网信息审核员”工种。

种种迹象表明，内容审核的必要性和紧迫性逐渐显现，互联网内容安全在现在这个信息化时代是至关重要的！

02人机对抗，孰弱孰强？

目前市场上的内容审核多采用人工智能技术，数据库通过算法实现高效性和可靠性，利用机器的深度学习和相关知识规则匹配可以实现90%以上的文本、图片的过滤，成熟的审核系统能将95%甚至99%以上的内容都自动审核并做出处理，也就是说数据库越丰富，机器所掌握可作为鉴别的实例就越多，执行任务就越为精准。确定有问题的会被自动删除，难以判断是否有问题的会被标注，进入人工审核程序。在内容风控中，人工智能技术扮演着越来越重要的角色，自然语言处理、图像识别、声纹识别等技术已经越来越多地得到了运用。人工智能审核不存在疲惫和精力不集中等问题，可以7*24小时不间断工作。据有效数据显示，人工智能审核的效率是人工识别的1000倍。不可否认无论是审核速度还是识别准确率上机器都并不逊色，人工智能内容审核的优势得到了充分的体现。

但是，这些只是进行模仿，主要依赖深度学习算法，它们已经具备创造所需所有条件的能力了吗？

至少从目前来看，答案是否定的。低端的重复的审核工作或许很容易被AI取代，但仍需有人去制定审核规则。对于文字相关内容，人工智能对内容的辨别还停留在关键词命中等较为浅层的程度，技术层面尚不具备演绎推理能力。对于不良内容的各种变化形态，机器很难模拟出普通用户的使用体验，很难理解内容背后的深意，很难作出准确的“人的判断”，无法对意识形态、舆论导向问题进行把关，必须依赖人工研判，正如艾达·勒芙蕾丝在她1843年有关分析引擎的笔记中所提到的：分析引擎没有原创任何东西的权利，它只能执行我们的指令。因此具备高水平意识和能力风控专业人员，在内容审核方面仍占据主导地位。

这又是否意味着人工审核绝对不可替代？

答案是未知的。人们向“能够学习的机器”输送琐碎的数据及高效算法，机器通过从数据中推断，它们自己会弄明白做事方法。掌握的数据越多，它们的工作就越顺利，高效便利且不失精准。它们甚至在我们还没提出要求，就能完成我们想做的事。从AlphaGo与人类博弈并“战胜人类”到机器从J.K.罗琳的灵感中衍生出以假乱真的续集，小到择偶、大到向公众发布新闻，从数学到文学，从音乐到绘画，Google搜索引擎的“爬虫算法”，网飞公司为用户推荐电影，B站上的AI续写引发热议。人工智能和机器学习的魅影在这些领域里潜行。审核将被人工智能逐步取代不是完全不可能。

如刘慈欣在《三体》中所说：弱小和无知，不是生存的障碍，傲慢才是。

审核这个岗位虽说基础，但若做得不好的话，也会直接影响到企业的生死存亡。因此，作为内容审核员，必须做到不断丰富个人的知识库，及时掌握行业动态和热点，具备强硬的心理素质。在程序化的生活中，不能浑浑噩噩的盲从，须知科技只是工具，发挥的作用的主导是人，利用目前所掌握的内容，发展安全可靠的新技术，才能在人工智能快速发展的时代潮流中，与人工智能相互制约、相互协作，以达到营造良好的网络环境，维护网络安全，实现建设网络强国的目的。

本文获授权转载，作者是人民网信息技术有限公司风控项目专员王园