互联网第三方内容审核服务发展探析_黄孝章.pdf

收稿日期：基金项目：本文为北京社科基金规划项目“基于第三方内容审核服务的互联网内容生态治理体系构建研究”（）的研究成果。第 卷 第 期.北 京 印 刷 学 院 学 报 年 月 互联网第三方内容审核服务发展探析黄孝章，童婷薇（北京印刷学院，北京）摘 要：互联网第三方内容审核服务已经成为网络信息内容服务平台加强内容审核和风险控制，履行内容生态治理主体责任的重要手段和途径。通过对第三方内容审核服务业发展现状的分析，提出第三方内容审核服务业存在审核员整体素质普遍偏低，审核标准与尺度不统一，市场秩序混乱、低价竞争现象严重，平台方与审核方话语权不对等、责权不清等四个方面的问题，并从法律法规建设、管理体系建设、人才培训体系建设三个方面对第三方内容审核服务业的发展提出了有关建议，对促进第三方内容审核服务业的健康发展具有重要意义。关键词：网络信息内容服务平台；内容审核；第三方内容审核中图分类号：文献标识码：文章编号：（）一、研究背景党的十八大以来，中共中央总书记习近平就网络安全、网络强国做出一系列重大决策、提出一系列重大举措。总书记在关于网络安全一系列重要讲话中强调“没有网络安全就没有国家安全”“过不了互联网这一关，就过不了长期执政这一关”“正能量是总要求，管得住是硬道理，用得好是真本事”“要从维护国家政治安全、文化安全、意识形态安全的高度，加强网络内容建设，使全媒体传播在法治轨道上运行”“网络空间是亿万民众共同的精神家园。网络空间天朗气清、生态良好，符合人民利益。网络空间乌烟瘴气、生态恶化，不符合人民利益”“坚持营造风清气正的网络空间，依法管网治网，建设良好网络生态”“要全面提升技术治网能力和水平”。为深入贯彻落实习近平总书记关于网络安全一系列重要讲话精神，确保我国互联网在法治轨道上健康运行，一方面，我国有关部门先后出台了一系列法律、法规、规范性文件和政策文件，如中华人民共和国网络安全法互联网新闻信息服务管理规定网络信息内容生态治理规定（以下简称规定）关于进一步压实网站平台信息内容管理主体责任的意见（以下简称意见）网络短视频平台管理规范（以下简称规范）等。如规定提出，网络信息内容服务平台应当履行信息内容管理主体责任，加强本平台网络信息内容生态治理；网络信息内容服务平台应当建立网络信息内容生态治理机制，制定本平台网络信息内容生态治理细则，健全用户注册账号管理、信息发布审核、跟帖评论审核、版面页面生态管理、实时巡查、应急处置和网络谣言、黑色产业链信息处置等制度。规范强调网络短视频平台实行节目内容先审后播制度。平台上播出的所有短视频均应经内容审核后方可播出。另一方面，国家有关监管部门开展了一系列专项行动，以净化网络空间，并取得显著成效。如“净网”“剑网”“清朗”等。据国家互联网信息办公室副主任盛荣华介绍，年，“清朗”系列专项行动，全年累计清理违法和不良信息 多万条，处置账号.亿个，封禁主播 余名，下架应用程序、小程序 余款，关闭网站 余家。面对国家日趋严格的监管要求，加强内容审核已成为信息内容平台的刚性需求。为降低审核成本，提高审核质量和审核效率，许多信息内容平台，特别是中小型平台纷纷选择内容审核外包服务。随着内容审核需求的日益增长，许多传媒企业和人工智能技术公司凭借其先进的智能内容审核技术和优质审核资源纷纷进入内容审核外包服务行业，作为第三方内容审核机构提供内容审核服务。第DOI:10.19461/ki.1004-8626.2023.01.011三方内容审核是相对“第一方”内容生产方和“第二方”内容运营平台方而言的，是由独立的第三方机构来承担第一方或第二方内容审核任务的一种业务形式。发展第三方内容审核服务是满足互联网行业信息内容审核需求的重要途径。分析研究第三方内容审核服务业的发展现状及存在的问题，并提出有关发展建议，对保障第三方内容审核服务健康发展具有十分重要的意义。二、第三方内容审核服务发展状况分析（一）市场参与者与日俱增目前第三方内容审核市场参与者主要可分为以下四类：传统主流媒体。如人民网股份有限公司、新华网股份有限公司、光明网传媒有限公司、央视国际网络有限公司、成都音像出版社有限公司等，凭借其较高的政治站位、丰富的内容审核经验、较高的公信力和权威性，在内容审核市场上占有较大的优势。年人民网第三方内容审核业务收入同比增幅达，年人民网承担中国进出口商品交易会（第 届“广交会”）多个展馆的直播内容审核工作。互联网云服务龙头企业。资金和技术力量雄厚的云计算企业，依托其云计算、人工智能等方面的技术优势和强大的内容审核团队，采用“机器智能审核人工审核”的方式，将内容审核服务作为整体云服务的一部分提供给用户，其智能审核技术及应用走在市场前列。如阿里云、百度智能云、腾讯云、华为云、中国电信天翼云、移动云、金山云金睛、网易云安全（易盾）等，如百度智能云媒体内容审核服务可对视频、语音、图片、文本等多媒体内容进行审核，覆盖涉黄、暴恐、涉政、广告、违禁等多种审核维度，支持点播和直播内容审核，能大幅降低客户的审核风险和成本。人工智能科技企业。这些企业依托其先进的人工智能、计算机视觉、语音处理和图像识别等技术，迅速落地包括互联网新媒体图像、音频、视频、直播、广告、新闻资讯等内容的智能审核，成为第三方内容审核服务商。如科大讯飞、同盾科技、图普科技、数美科技、武汉云腾智达、陕西淘丁实业集团有限公司等。如陕西淘丁实业集团有限公司，现有 人的内容审核服务团队，在西安、太原、宝鸡、渭南等地设有专业审核职场，内容审核服务外包业务已经逐步成为集团支柱业务之一。专业领域内容审核服务外包企业。这部分企业主要依托其在某些专业领域内积累的审核资源和经验，为信息内容平台提供专业领域信息内容审核服务。如杭州慧和信息技术咨询有限责任公司给很多国内大型网站外文站做外文信息审核外包业务多年，在语言内容审核服务外包上积累了丰富的经验。阅文集团海外业务负责人陈珊珊介绍 年中国网络文学出海营收增长，每月新增出海平台 家。中国网络文学出海规模迅速扩张，未来将遍布全球，同时也意味着外文审核需求量将大增。年 月 日，国家广播电视总局、文化和旅游部联合发布的网络主播行为规范强调：从事如医疗卫生、财经金融、法律、教育等需要较高专业水平直播的网络主播，应取得相应执业资质。未来医疗卫生、财经金融、法律、教育、英语、小语种、少数民族语言等专业领域的信息内容审核服务需求将越来越大，专业领域内容审核服务外包企业数量将进一步增加。天眼查网站查询数据显示，截至 年 月，国内共有 家经营范围含“内容审核”“信息审核”“视频审核”“游戏审核”“广告审核”等关键词且状态为“存续（在营、开业、在业）”的信息内容审核相关企业，注册资本在 万以内的占。年新注册 家，同比增长。随着第三方内容审核服务需求的不断扩大，未来几年，第三方内容审核服务市场参与者将快速增加。（二）市场规模不断扩大，前景广阔自规定和意见实施以来，为落实内容生态主体责任，降低审核成本和内容安全风险，提高内容审核质量和审核效率，越来越多的网络信息内容服务平台，特别是中小型平台，选择内容审核外包服务，即第三方内容审核服务。从电力招标网、乙方宝、佰中标讯、采招网、政府采购网等网络采购平台公开发布的项目招标信息看，年各形态内容审核招标采购项目数量均有小幅增长。年 月至 月综合内容审核类项目（包括文本、图像、音视频、直播等各类内容的审核）为 项，同比增长.，视频内容审核项目 项，同比增长.，广告内容审核 项，同比增长第 期黄孝章，童婷薇：互联网第三方内容审核服务发展探析注：规定第四十一条指出“本规定所称网络信息内容服务平台，是指提供网络信息内容传播服务的网络信息服务提供者”。.。从招标采购方信息看，年 月至 月政府部门、事业单位、工商企业、互联网电商等非内容型企业发布的内容审核招标采购项目数量明显增加，为 项，同比增长.，内容型企业为 项，同比增长.。如表 所示（限于篇幅，只列出 项），苏宁易购集团发布的“年内容审核年框比选项目”要求对苏宁易购站内短视频、软文、排行榜、笔记、直播预告等多内容形式进行人工审核，月度审核量约.万 万条，大促或活动月份审核量约.万 万条；北京时间有限公司发布的“北京时间内容审核服务项目”要求审核的内容主要包括：用户头像、用户名称、新闻评论、自媒体图文、自媒体视频等，月均审核量为用户头像 条、用户名称 条、新闻评论 条、自 媒 体 图 文 条、自 媒 体 视 频 条。表 有关内容审核招标采购项目序号项目名称招标单位发布时间 年数字生活事业部视频内容审核服务项目中国电信新疆分公司.长春市税务局内容安全审核服务项目国家税务总局长春市税务局.年内容审核年框比选项目苏宁易购集团股份有限公司.咪咕互娱 年咪咕快游 版内容审核项目咪咕互动娱乐有限公司.互联网媒体内容审核服务项目常州工业职业技术学院.年天翼高清业务内容审核服务采购项目天翼数字生活科技有限公司.年 消息业务信息安全审核项目中国电信股份有限公司.淄博市广播电视台全媒体内容审核服务项目淄博市广播电视台.北京时间内容审核服务项目北京时间有限公司.中江网信息安全审核服务项目江苏中江网传媒股份有限公司.中国文明网站群内容安全审核服务项目中宣部办公厅资产和采购管理处.龙岗政府在线网站（中文版）内容审核服务项目深圳市龙岗区人民政府.年度电视广告内容审核服务项目石家庄市广播电视台.天翼云 年音视频内容审核服务项目天翼云科技有限公司.咪咕动漫 年内容安全审核服务项目咪咕音乐有限公司.咪咕数媒 年度电子书内容审核服务项目咪咕数字传媒有限公司.此外，年通过问卷调查和企业访谈了解到，在所调查的 家第三方内容审核服务企业里，年新增客户数量 家以下的占.，家的占.，家的占.，家的占.。从 年内容审核业务收入同比增长率来看，.的企业超过，.的企业为，.的企业为，.的企业为 ，.的企业为，.的企业在 以下。从网络信息内容服务平台发布的内容审核招标采购项目数量和第三方内容审核服务企业客户增长数量、内容审核业务收入同比增长率等指标来看，第三方内容审核服务市场规模不断扩大，呈稳步增长趋势。未来在国家日趋严格的监管要求下，各级政府部门、事业单位、工商企业、互联网电商等非内容型企业所建设的官方网站、微信公众号、官方微博、等各类媒体都将加强内容审核和风险控制，越来越多的非内容型企业和中小型内容型企业将通过购买第三方内容审核服务来满足自身的内容审核需求，第三方内容审核服务市场发展空间很大，前景广阔。（三）审核员队伍逐渐壮大，整体素质不断提高信息内容审核员是信息内容安全审核的“把关人”。规定第九条强调：网络信息内容服务平台应当配备与业务范围和服务规模相适应的专业人员，加强培训考核，提升从业人员素质；意见第十条提出：加强人员队伍建设；配备与业务规模相适应的从业人员，加大信息内容审核人员数量和比例；新闻信息服务从业人员依法持证上岗；针对性开展业务培训，制定培训计划，建立培训档案，持续提升从业人员能力素质。规范明确提出，网络平台开展短视频服务，应当根据其业务规模，同步建立审核员队伍；审核员数量与上传和播出的短视频条数应当相匹配。从智联招聘网发布的内容审核职位招聘信息来看（年 月 日查询的数据），内容审核员需求旺盛。招聘人数排在前 位的城市分别是成都（人）、武汉（人）、上海（人）、南京（人）、北京（人）、重庆（人）、天津（人）、深圳（人）、广州（人）、郑州（人）。从招聘职位描述来看，包括文本审核、图片审核、视频审核、短视频审核、游戏审核、直播审核、广告审北 京 印 刷 学 院 学 报 年核、动画审核、小语种审核（包括印尼语、越南语、菲律宾语、马来西亚语和阿拉伯语）、英语审核、录音审核、音乐审核等各种内容形态的审核。为贯彻落实规定意见规范等文件要求，履行平台主体责任，腾讯、阿里巴巴、百度、字节跳动、快手、站、小红书、人民网等龙头企业和第三方内容审核企业都加大了审核员队伍建设力度，通过招聘和培训等方式扩大了审核员队伍规模。据媒体介绍，目前今日头条的内容审核人员已超过 人，快手内容审核人员超过 人；小红书内容审核员已超过 人，站内容审核员超过 人