随着互联网技术的日新月异，多家全国性商业类内容聚合平台依靠资金和技术优势快速发展，形成渠道优势。与此同时，随着媒体融合发展的不断深入，媒体也在转向新型主流化，其中一个重要方向就是平台化。由此，平台型媒体蔚然成势。

　　面对海量内容、多元创作生态、社会思潮活跃、各类诉求交织等新情况，内容质量、违法违规、突破道德底线等问题时有发生。内容审核和风险防范作为平台的生命线，成为平台型媒体内容生产供给侧改革的刚需和痛点所在。而主流媒体作为内容“把关人”，在内容审核与风险防范上独具优势，同时这也是党赋予主流媒体的光荣使命。

　　0

　　1

　　平台型媒体内容审核的必要性

　　1.媒体平台是融合转型的重要路径

　　何谓平台型媒体？平台型媒体是指既拥有媒体的专业性权威性，又拥有面向用户的开放性的数字内容实体。平台型媒体是要打造一个良性平台，平台上有各种规则、服务和平衡的力量，并且向所有的内容提供者、服务提供者开放。

　　互联网平台的出现是新闻传播史上的大事件，平台是实现连接的基础功能架构，其中包括了社交媒体平台、生活服务平台、资讯分发平台、游戏娱乐平台、操作系统平台等，典型的如谷歌、脸书、X（原推特）、亚马逊、苹果、百度、微博、微信、抖音、今日头条等。

　　在当前我国的传播生态中，平台型媒体主要有两种类型，一种是今日头条为代表的商业性内容聚合平台；一种是传统媒体转型而来的新型主流媒体内容平台，如澎湃、南方+、“大众”新媒体平台、齐鲁壹点等。平台型媒体的主要承载方式是新闻客户端。

　　2.平台型媒体内容审核的逻辑动因

　　一直以来，内容审核都不是新鲜事，只是表现方式不同而已。西方国家所谓的“新闻自由”都是建立在不触及社会基本制度、不挑战国家权威的基础上。西方媒体大都由大资本集团控制，看起来的“自由”其实有很多“敏感点”和“雷区”，是不能触及的。今年6月3日，《哥伦比亚法律评论》因发表批评以色列的文章而被董事会暂时关闭，理由是这篇文章未经通常的审查遴选程序。

　　西方国家的内容审核制度，从根本上说是为了维护少数人即特殊利益集团、特定利益群体的利益。而我国的内容审核是在党的领导下进行的，从根本上与西方不同。

　　习近平总书记强调：“我们党以全心全意为人民服务为根本宗旨，没有自己的特殊利益，体现党的意志就是体现人民的意志，宣传党的主张就是宣传人民的主张，坚持党性就是坚持人民性。”因此，我们的内容审核是践行全心全意为人民服务宗旨，凝聚人心、汇聚民力，巩固壮大奋进新时代的主流思想舆论，全面加快中国式现代化建设进程的内在需求。

　　3.平台型媒体内容审核的现实需求

　　习近平总书记强调：“党的新闻舆论工作是政治性、政策性很强的工作，从来不是单纯的业务工作，讲政治是第一位的。”[5]媒体平台要提升自身的传播力、引导力、影响力、公信力，首先就要贯彻“政治家办报”，确保导向安全，这是生命线。因此，内容审核是新闻媒体保持正确的政治方向的稳定器和定向仪。

　　此外，当前网络平台上内容良莠不齐，充斥着错别字、语句不通、逻辑混乱、价值错误等内容，尤其需要明导向、守法规、懂业务的专业审核人员进行筛选把关，为平台持续不断提供更多高质量内容产品。我国的法律法规对平台型媒体的内容把关有刚性要求，合规是媒体生存和发展的底线，这使得平台型媒体要具备内容审核功能。对技术驱动的平台型媒体来说，内容审核也是算法迭代升级的要求，人工审核可弥补算法的不足，帮助算法纠偏，提升平台的技术水平和竞争能力。

　　2

　　当前平台型媒体内容审核面临的问题

　　1.内容和主体的多元性冲击了审核规范性

　　在新的传播环境下，内容已成为一个泛化概念。移动互联网爆发式崛起，可以说如今的网络世界“一切皆内容”。内容审核从未有过如此复杂又多样的产品，传统的审核校对模式显然无法适应如此复杂多样的审核对象。

　　由于内容审核的特殊性，审核规则和标准往往是不公开的。透明度不足，影响了行业的良性发展，内容审核大多在各媒体自己的“舒适区”内发展。这也导致行业内人员能动性不足和职业路径不清晰，影响了内容审核的标准化和职业化。

　　2.商业追求弱化了内容平台的媒体公共性

　　当前，商业类资讯平台凭借强大的资本和技术优势，在传播渠道占据了巨大优势，并逐步将优势地位向内容领域扩展，传统媒体及其平台的话语权被蚕食。商业平台对内容的把关更倾向于以机器审核为主，技术更新迭代非常快，随着不断收集用户数据、审核样本数据，训练库更加完备，智能审核占比越来越高，审核权力有逐步让渡于技术的趋势。

　　值得警惕的是，审核把关的方向和规则反过来会深刻影响内容生产。算法机制将加剧商业类资讯平台的价值观与偏见，算法偏见导致的“信息茧房”、知识局限会被强化。所以，认为只要数据量够大、样本库够丰富，就能通过技术一劳永逸地“终结”内容审核问题，只能是乌托邦式的幻想。内容审核不仅是剔除劣质内容，更重要的还在于发现优质内容。媒体的特性决定了其天然具有公共属性，不能完全让渡于商业利益。

　　3.岗位重视不够限制了内容审核的创新性

　　内容审核员的职业进入同样存在许多问题。对商业性资讯平台来说，内容审核员的进入门槛相对较低。大多数内容审核员缺少职业归属感和专业理想，存在工资福利低、绩效要求高、转岗难度大等职业困境，因而商业平台内容审核员的流动性非常高。

　　由传统媒体转型的新型主流媒体内容平台，其优势在于内容审核员大多从内部其他岗位转岗而来，具有较丰富的专业媒体工作经验。但许多媒体平台要么是没有相应的内容审核机构，要么内容审核更多被认为是辅助性岗位，内容审核员常常被认为是职业的终点站，存在职业动力不强、创新性不足等问题。

　　03

　　新形势下内容审核机制的构建

　　1.对象之变

　　新形势下的内容审核呈现内容复杂多样、边界定义模糊、产品供给海量等特点，传统的文字校对已不能满足当前内容审核的要求。内容审核已转变为对互联网泛内容产品的审核，包括文字、视频、音频、评论互动、用户生产内容、机器生产内容等的审读把关。

　　在新技术革命的大潮下，新的内容形式和载体仍会不断产生，内容审核将持续面临新客体的涌现。ChatGPT等生成式人工智能的快速发展无疑对内容审核提出了新要求、带来了新挑战，客观、真实的新闻底线无疑会不断受到冲击，辨别内容的真实性将成为新课题。新的媒体格局下，内容审核必须不断适应传播格局变化，拓展自身能力边界，对不同内容形式实行不同审核策略。

　　2.角色之变

　　内容审核员的角色发生了改变，内容审核已从传统的发前审校过渡到事前效果预判、政策咨询、业务培训，事中导向把关、文字审校，事后巡查巡看、管控引导、效果评估等内容生产全过程。内容审核已不再是传统意义上的文字校对工作，专业审读人员的定位应当是媒体平台内容的“质检员”，是平台健康发展的基石性保障力量。

　　传统的媒体内容生产中，审核校对多以人工为主，新媒体格局下的内容审核已由人工操作变为人机协同。特别是商业性资讯平台，充斥着大量违规、格调低俗的内容，单纯的机器审核无法进行合理筛查，人工+机器的审核模式已成为目前的主流审核模式，人工审核的作用仍无法替代。现阶段，就算是商业性资讯平台也必须采取“人海战术”。早在2018年，今日头条就宣布负责内容审核的员工已达1万人，占员工总数的四成；抖音、快手的内容审核人员在2018年时也达到数千人。在西方国家，内容审核的人工因素也越来越多。为了应对假新闻泛滥，脸书的内容审核人员在2019年时就已达1.5万人，以补足算法的局限。

　　3.范式之变

　　构建新的内容审核范式，是新型主流媒体义不容辞的责任。对于新型主流媒体平台而言，新的传播形势下构建内容审核职业规范，既具备客观能力，也有主观意愿。商业性资讯平台固然具有资本和技术优势，但其公共性不足，内容审核力量更多是对监管的被动回应，强大的技术力量主要应用于降低成本，而非着力构建新型内容审核行业规范。

　　新传播形势下内容审核目的是筛选优质内容，路径是底线把关。传统媒体的编校是对有限内容进行逐字审查，以服务内容的高质量生产。平台媒体内容是海量的，与传统媒体的校对不同，平台内容审核只能对内容质量进行底线审查。要破解海量内容的审核难题，势必要引入技术手段，形成人工审核+机器辅助的审核模式。

　　目前人机协同审核有两种模式：一种是先机器后人工，另一种是人工和机器融合在一起，同时进行。前者被大多数商业类资讯平台所使用，先用机器进行第一轮审核，当内容涉及“灰色区域”时人工才介入，进行第二轮审核。这种审核方法主要是为了应对巨量的审核需求，其缺点也很明显，就是机器误判概率较大。

　　后一种模式在新型主流媒体内容平台中被更多采用，就是将技术因素融合到审核流程中，主要方式是通过关键词高亮显示，提醒审核人员进行二次判断。关键词提示时有误报和漏检情况，这时就更加需要人工审核进行实时判断。当然，随着技术的进步，机器也在不断学习进化，这两种模式可能会走向趋同。

　　4.能力之变

　　我国的媒体种类非常多，内容生产能力差别较大，把关水平参差不齐，对于内容审核的需求旺盛。习近平总书记强调：“无论什么形式的媒体，无论网上还是网下，无论大屏还是小屏，都没有法外之地、舆论飞地。”对新闻舆论的监管，不论媒体形式、平台、渠道，主管部门都一视同仁。

　　此时，新型主流媒体的内容审核能力正有用武之地，且具有不可替代性。首先，从传统媒体发展而来的新型主流媒体，讲政治、讲大局，将政治要求体现到具体业务中，是其天然优势。其次，长期以来，传统媒体按照国家法律法规、行业标准开展工作，具有完备的内容审核流程，保障了新闻产品的高质量。再次，传统媒体的内容审核人员受过系统化培训和考核，具有专业精神和专业规范，在众声喧哗的舆论场能够成为优质内容产品的筛选者和“滤清器”。

　　不少主流媒体结合自身优势打造了先进的智能校审系统。例如，齐鲁晚报·齐鲁壹点在自研传媒大模型的驱动下，通过NLP、OCR、人脸识别等技术自主打造的壹点天眼多模态内容风控系统，可准确识别文本、图片、音频、视频、直播等内容中的涉政表述、敏感信息、违规表述及各种变体，覆盖涉领导人差错、涉政差错、错别字、标点错误等30多个校审维度，有效提升了平台智慧化审校效率。系统通过了工信部旗下中国信通院的校审性能专业评测，并获得五星级最高认证。目前，壹点天眼多模态内容风控系统已向媒体、企事业单位进行能力输出，取得了良好效果。

　　内容审核和风险防范已成为平台型媒体安全发展的底线和关键。特别是对新型主流媒体而言，其拥有丰富的专业经验和人才储备，内容审核是一个新机遇，可以链接既有的专业经验和新兴技术元素。此时，平台型媒体应不断探索完善内容审核的内涵和外延，促进内容审核行业走向专业化、职业化、透明化，主动承担网络空间治理的新责任，为推进内容生态健康作出新贡献。