面对深度伪造，主流媒体如何构建“真实性”防线

　　摘要：“眼见不一定为实，耳听不一定为真。”深度伪造（deepfake）技术的迅速兴起，使虚假新闻不仅越来越多，而且更加逼真，人类越来越难仅凭感觉器官识别真伪。这给新闻传播的真实性带来了前所未有的挑战。本文立足深度伪造技术发展现状，聚焦深度伪造技术给主流媒体带来的风险，分析了深度伪造技术背景下虚假新闻在表现形式、传播模式、识别难度等方面产生的新变化，并深入探讨了主流媒体在应对深度伪造问题、维护新闻真实性方面的举措。

　　关键词：深度伪造技术；主流媒体；新闻真实性

　　AI换脸、AI变声、AI生成图片视频、AI复活逝者……深度合成技术在赋能新闻媒体的同时，其不当混用、粗心误用甚至恶意滥用，也催生出种种风险。深度伪造图片、视频、音频和文本等数字内容，意图产生误导效果就是典型表现。通过深度伪造生成的信息，看（听）起来足以“以假乱真”，但其扰乱了正常的新闻传播秩序，给受众带来新闻认知的困扰，也给主流媒体的传播力、引导力、影响力、公信力建设带来巨大挑战。

　　1

　　深度伪造技术在信息生产中的应用特点

　　快速进化的深度伪造技术推动了虚假新闻生产的自动化、智能化和批量化，大幅降低了造谣成本，提升了谣言的数量级和传播力。这类虚假新闻既包括子虚乌有的捏造和虚构，也包含对真实发生事件的虚假再现。

　　（一）技术门槛越来越低，让虚假新闻的生产更容易。随着机器学习算法和移动应用软件的普及，用深度伪造技术制作虚假信息变得越来越简单。大约两年前，深度伪造这项技术仅技艺熟练的黑客和领域内专业人士才能使用，但当下，深度伪造技术的开发与实践正在不断进入普通用户的日常生活。众多技术公司开发的商业性、娱乐性深度伪造软件，不需要过多人为干预就可智能化运行。用户只需一部手机或一台电脑，就能轻松对图文或视频进行任意编辑，制作不同程度的伪造内容，如“一键换脸”可自动将一个人的脸部特征映射到另一个人的图像中，实现脸部替换。

　　（二）产品种类越来越多，让虚假新闻的形式更复杂。基于人工智能等新技术的深度伪造技术融合了文字、图像、声音等多种元素，可跨越不同媒介载体自由组合，实现多模态切换、多形态生成，使虚假新闻的表现形式更加多样，也给其传播提供了更为复杂多变的场景。从视频中常见的AI换脸，到模仿声音和口型，再到完全虚构一个不存在的场景，当下的深度伪造技术已从“文生图”进化至“文生视频”，不需要复杂的3D建模，也没有繁杂的逐帧渲染，输入几行字即可呈现高清画面，让任意人“说出想让他说的话”。

　　（三）生成效率越来越高，让虚假新闻的数量更庞大。深度伪造技术可通过一键式操作，批量生成图片、视频或语音等逼真信息，内容生成效率极高。而且，其使用主体不再局限于人，机器已成为虚假新闻生产与传播的重要工具。以2024年1月发生的“西安突发爆炸”虚假新闻案为例，涉事账号所属机构一天最多能生成近7000篇虚假新闻，每天收入在1万元以上，公司实际控制人经营着5家这样的机构，运营账号达842个。

　　（四）花费成本越来越小，让虚假新闻的扩散更迅速。相较于过去基于专业知识的后期合成，当下用户可以用低廉价格制造出高仿真深伪视（音）频。如，有不法分子未经当事人同意便随意使用肖像照，利用AI换脸技术伪造视频进行违法活动。南风窗记者在某些电商平台上检索发现，不少商家和个人打着“AI俄罗斯美女”的旗号，以低至五六元的价格，推出数字人定制业务，包含形象生成、声音克隆和训练等。尽管生成的视频看起来比较模糊，人物滤镜很重，但很多对AI技术不了解的网友依然对此信以为真。

　　（五）识别难度越来越大，让虚假新闻的影响更广泛。不同于以往相对简单的图片、音频和视频篡改技术，深度伪造是基于样本进行的人工智能深度学习，能够结合目标对象的语音、微表情等生物特征全方位模拟。特别是很多深度伪造的虚假信息中，都夹杂着“据报道”“相关部门正对事故原因进行深入调查”“提醒广大市民在日常生活中要注意安全”等内容。而且，深度伪造软件还可根据输入的关键词，自动在网络上抓取相关的文字信息和图片、视频，将其作为事实虚构的数据库，进行修改、删减、拼接，逼真度更高、迷惑性更强，让公众难辨真假。

　　2

　　深度伪造技术在信息生产中的应用特点

　　“假新闻比真新闻更像新闻。”深度伪造技术颠覆了人们“眼见为实”的传统认知，危及公众对新闻信息的信任，给主流媒体带来严重挑战，成为破坏正常传播生态、干扰新闻舆论工作的一个重要乱源，带来一系列风险隐患。

　　（一）新闻内容失真，媒体事实核查难度加大。对深度伪造技术生成的虚假信息，如果主流媒体不严格审核、不加以甄别，新闻的真实性、客观性与公正性就难以确保，主流媒体的权威性就会受损、公众信任度下降。2022年8月，重庆缙云山发生特大山火，大量AI合成的照片被广泛传播，其中一幅以“烈火骑士”为主题的AI合成照片被包括多家央媒在内的主流媒体转发，但未标识“非新闻图片”，引起不知情的公众误解。深度伪造技术带来信息甄别难度的增加，这对主流媒体增强事实核查、信息把关等实践能力提出了更高要求，需要尽快探索建立适应新技术环境的事实核查机制。

　　（二）传播秩序失范，媒体舆论引导面临挑战。深度伪造技术生成的虚假信息，经网络社交媒体裂变传播，会对舆论空间和信息生态造成极大破坏，致使以“真实”“客观”“准确”“完整”“诚信”“专业”“尊重”“责任”等伦理原则构建的传播秩序出现崩塌。在由国家互联网信息办公室部署开展的“2023年‘清朗’系列专项行动”中，各网站平台在一个多月的时间内集中清理了仿冒新闻单位、新闻主播账号10.7万个，以及虚假新闻信息83.5万条。其中很多虚假新闻信息通过深度伪造生成。不少网民惊呼，以前总说“有图有真相”，现在连图片和视频也不敢轻易相信了。当公众形成“眼见不为实”的心理预期，就可能质疑主流媒体信源，降低舆论环境中传者与受者的信任度。路透社《2023数字新闻报告》显示，2023年公众对新闻机构的信任度比2022年下降了两个百分点[1]。这势必影响主流媒体宣传目标的有效达成，最终导致主流媒体舆论引导的失灵。

　　（三）主流话语失效，媒体内容质量有待提升。深度伪造内容往往迷惑性强、冲击力大，更容易吸引受众的注意，激起不明真相网友的共鸣，从而挤压主流媒体正面信息的传播空间，甚至带偏主流舆论的节奏方向。这对主流媒体内容生产的针对性、信息传播的有效性提出了更高标准。主流媒体要在纷繁复杂的信息环境中抢占传播主动权，在众声喧哗的网络舆论场中提升主流话语权，就需要进一步提升高质量内容生产与传播能力，努力提高内容的满足度、形式的匹配度、分发的精准度、效果的达成度。

　　（四）采编人员失德，媒体生产流程急需重塑。互联网时代，用好网络工具本是提升新闻报道质量的一条重要途径。但不容忽视的是，有的采编人员本末倒置，把网络当作新闻采访的主战场，整天端坐于电脑前“运筹帷幄、决胜千里”。这种在办公室捣鼓新闻的风气随着人工智能技术在媒体中的大量应用愈演愈烈。不少采编人员写什么问AI，怎么写仿AI，以复制、粘贴网络素材代替脚踏实地的现场观察，以QQ、微信等指尖交流代替面对面的深入对话，甚至连电视记者都利用深度伪造技术“合成事实”“拼接真实”，当起了“一键成稿”的AI记者，致使新闻没了原创性，内容缺了现场细节，记者丢了职业底线。这些都要求主流媒体要进一步加强新闻从业人员的职业道德教育，加快完善新闻生产传播的流程规范，在内容的采集、生产、分发、评估等环节建立与人工智能技术应用相适应的全新机制。

　　3

　　深主流媒体加速构建“真实性防线”的举措

　　面对越来越普遍、越来越精妙的深度伪造内容，主流媒体越要坚守传播事实与真相的使命与责任，把维护新闻真实性作为应用人工智能技术的最终标准，用真实报道构建公众可信赖的基础认知空间，为公众拨开虚假信息的迷雾，以此提升公众的信任度和社会的影响力。

　　（一）发出权威声音，在戳破谣言中提升主流媒体公信力

　　失声不语，形同默认。《互联网信息服务深度合成管理规定》要求，深度合成服务提供者和使用者不得利用深度合成服务制作、复制、发布、传播虚假新闻信息。媒体的责任在于还原真相。主流媒体面对深度伪造的虚假信息，不能听之任之，要善于以新闻的专业力量，第一时间对深度伪造内容进行科学核查，帮助受众分辨信息的真伪、分析信息的逻辑、评估信息的价值。

　　1.要建立人机协同内容核查机制。主流媒体要加快对深度伪造内容鉴别技术的研究和引进，结合大数据、人工智能及算法等技术，辨别各渠道信息源的真实性。要运用“机器+人工”的手段，实时监测自建平台中可能存在的恶意发布的深度伪造内容。一旦发现可疑的虚假信息，及时进行调查核实，对虚假信息进行检验和纠正，确保在事实真实的基础上做到整体真实，并将修正后的信息快速传达给公众。目前，不少技术公司研发的AIGC（生成式人工智能）内容检测平台，支持多种合成类型的图片、视频、音频、文本的真伪检测。

　　2.要畅通虚假新闻用户举报通道。主流媒体应畅通对深度伪造内容的投诉、举报渠道，设置便捷的投诉、举报入口，广泛受理公众对虚假新闻的反映，并公布处理流程和反馈时限，快速给予回应和处理。浙江省主流媒体依托国家互联网信息办公室设立的违法和不良信息举报中心，在主流网站首页设立联合辟谣平台，对公众举报的虚假新闻，多方面、多层次、多视角展开事实核查，第一时间进行更正和辟谣，加大虚假信息的揭露曝光力度，有效遏制了虚假信息扩散，取得积极效果。

　　（二）亮出鲜明身份，在打造品牌中提升主流媒体公信力

　　公众对于一条信息的理性判断往往依照信息本身及其传播渠道的可信度。过去，最权威的媒体都是官方主流媒体。所以，在众声喧哗、鱼龙混杂的舆论场，主流媒体既要保持权威媒体标杆的冷静和清醒，确保每一个被敲下的字都有来路，又要增强品牌穿透力，把传统主流媒体的社会公信力向网络延伸和拓展，在新媒体平台构建一套新的识别系统，以保持对主流媒体传播内容的良好辨识度。

　　1.推动落实深度伪造内容标识制度。2023年1月10日起施行的《互联网信息服务深度合成管理规定》要求平台在智能对话、合成人声、人脸生成等服务中对合成物进行显著标识。该显著标识不得被他人蓄意篡改、隐藏、删除。而针对疑似使用AI技术的内容，目前一些平台已在展示页面贴上“内容疑似AI生成，请谨慎甄别”的提示。对此，主流媒体要制定清晰、具体、可操作的标识规则，对自办的信息发布平台都应该规范开展标识工作，最大程度上压缩借深度伪造生成内容浑水摸鱼的空间，保障公众知情权。

　　2.加强主流媒体融合创新品牌建设。在繁芜丛杂的舆论场，主流媒体既要避免虚假和误导性信息的传播，确保信息的真实和准确，又要注重基于形式创新和技术升级的品牌建设，引入新科技、做大全媒体，提升传播内容的辨识度和能见度，不至于淹没在大量AI信息之中。近年来，许多主流媒体通过精心打造基于融媒发展趋势的创新型、个性化的客户端来构建融合传统主流媒体和互联网双重优势的传播品牌，如湖南广电的芒果TV、江苏广电的荔枝新闻、浙报集团的潮新闻、浙江广电的中国蓝。这些具有鲜明形式和创新符号的个性化新媒体品牌有助于提升其所在机构媒体的社会知名度和舆论引导力。

　　（三）坚持专业原则，在服务群众中提升主流媒体公信力

　　主流媒体要坚持专业原则，坚定站稳立场，展现应有风范。舆论场越光怪陆离，越要发挥主流媒体的导向作用，凸显严肃新闻存在的意义。

　　1.面对日益丰富的受众新需求，强调内容供给高质量。进入新时代，我国社会主要矛盾转化为人民日益增长的美好生活需要和不平衡不充分的发展之间的矛盾。“内容为王”必须以满足人民日益增长的美好生活需要为出发点和落脚点。对此，主流媒体创作的内容也必然要“换挡提速”乃至“变换赛道”。主流媒体要立足解决内容生产与受众需求适配性差、满足度低的问题，切实改变“重数量轻质量”倾向，不断推进内容生产从“有没有”转向“好不好”，从“够不够”转向“优不优”，靠专业能力提供主流价值、观点和思考，努力做到辨真伪、明是非、定喧嚣，努力实现“量”的铺开向“质”的提升转变，从而更精准更高效地满足人民群众精神文化需求。

　　2.面对日益智能的媒体新技术，强调深入现场抓“活鱼”。内容为王，胜在原创。主流媒体记者对抗深度伪造的最强大武器就是秉持实事求是精神，“回到新闻现场”。现场是新闻的命脉所在，是新闻生命力、竞争力和创造力的源头活水。毋庸置疑，当下主流媒体的很多报道普遍缺乏百姓视角和人文情怀，内容不接地气，形式土里土气，没有鲜活现场，缺乏灵动细节，报道触达率和影响力低。主流媒体提升报道质量要求记者必须坚持党的群众路线，学习践行习近平总书记提出的调查研究“深、实、细、准、效”[2]五字诀，扑下身子、沉到一线，真正深入基层摸实情、贴近群众听民声，采写反映群众意愿、为群众切实所需要的新闻。

　　3.面对日益多样的发布新平台，强调扩大传播朋友圈。内容再好，不能触达公众，一切等于空。按照建设全媒体传播体系要求，一方面要聚力建好用好自有媒体平台，持续抓好报纸发行、电视广播收视收听及自有移动客户端的下载安装，夯实传播主平台的基座。如金华市新闻传媒中心以原金华日报社和原金华广播电视台两家媒体合并为契机，既不遗余力抓好金华日报等发行工作，又迭代升级“金彩云”客户端，持续提升正能量爆款生产能力和网络话题运营能力。另一方面，借力使力不断完善上下贯通的主流媒体协作机制。既加强与中央媒体驻浙机构、浙江省级媒体的沟通联系，推动在更大范围讲好金华发展故事，又加强金华市域范围内县（市）媒体的统筹力度，提升市、县融媒协作质效水平，及时发现、挖掘、采制更多地方先进经验、先进典型。

　　（四）持续成风化人，在增强素养中提升主流媒体公信力

　　提高主流媒体采编人员对深度伪造技术的认知水平和技术素养是应对此类威胁的一个有机组成部分。

　　1.科学认识深度伪造技术。要引导采编人员正确、客观、全面地理解深度伪造技术，既充分认识其在提升内容生产效率、丰富内容表现形式等方面的积极作用，又要对利用深度伪造技术的行为保持必要的谨慎和敏锐，有更多的警惕和预防。要提高采编人员AI时代的信息素养，加大深度伪造信息生产状况的知识普及，引导大家不相信、不传播深度伪造信息，切断虚假内容的扩散途径。只有当主流媒体采编人员都能正确认识到深度伪造技术所带来的风险时，才能真正有效构筑起一道坚固的“真实性”防线。

　　2.正确使用内容合成工具。生成内容有导向，AI产品有立场。主流媒体采编人员要坚持技术向善，使用AIGC服务应当遵守法律法规和职业要求，尊重社会公德和伦理道德。要增强正确使用AIGC技术的能力，坚持创新使用和安全并重相结合的原则，采取有效措施，提升AIGC服务的透明度，提高生成内容的准确性和可靠性，共同构建更加全面真实的新闻原貌。如学习了解AI换脸的技术原理，正确认识AI换脸的价值所在，掌握甄别AI换脸的简单技巧。

　　3.有效判别智能生成内容。面对深度伪造对客观真实的冲击，主流媒体的一个主要解决方案是坚守专业操作，完善信源核验，提高事实核查的时效性和准确度。作为新闻工作者，学习判别AI生成内容和学习使用AI工具同样重要。要提高采编人员的深度伪造辨识能力，掌握鉴别信息来源、评估信息内容的必要知识。面对真假难辨的信息，不仅要学会使用检测深度伪造的工具和软件，还要养成多方求证的良好信息接收习惯，以确保传播信息的真实性。

　　（五）健全规章制度，在强化监管中提升主流媒体公信力

　　通过建章立制加强对采编人员使用深度合成技术的监管审查，对虚假新闻生产者进行处罚，是防止深度伪造风险升级的有效方式。

　　1.明确准入原则。针对深度合成技术的发布主体越来越多，获取深度伪造工具越来越容易的实际，主流媒体必须尽快明确深度合成工具的使用原则，建立科学的准入标准与评价体系，严格管住源头。在充分考虑新闻业和新闻算法特殊性的基础上，明确采编人员使用深度合成技术的目标、对象和范围。主流媒体应该选择技术先进稳定、内容真实可靠、社会认可度高的深度合成工具。

　　2.制定使用规范。要严格规范深度合成内容生成、审查和发布等环节。切实加强对数据滥用、侵犯隐私、违背伦理等行为的惩戒力度，从源头上削减深度伪造内容的素材基础，扎紧监管的“篱笆”。如对未取得个人同意的人脸、人声等生物识别信息，采编人员不得用于编辑深度合成内容。2024年4月，国内首个针对数字记者的管理办法——《四川日报社数字记者信息管理办法（试行）》发布。《办法》强调了数字记者内容创作的准确性和可靠性，要求对合成内容进行严格的管理和审核，同时要求在生成内容的适当位置向公众明确标示数字记者标识。

　　3.建立追责机制。要对恶意使用深度合成技术的行为制定严厉的惩戒机制。发现有采编人员利用深度合成技术制作、复制、发布、传播虚假信息的，依法依约采取警示、限制功能、暂停或者终止向其提供服务等处置措施，并对恶意使用者视情给予相应惩罚。对于已经投用的深度合成工具，应定期开展检测评估，除了在日常不断纠偏设计、加强内容安全管理外，当发现深度合成工具存在缺陷或潜在风险时，应及时要求平台加以修复、优化，并视情决定是否中止相关平台的相应服务。

　　参考文献

　　[1] 刘沫潇，尼克·纽曼.2023全球数字新闻发展趋势[J].青年记者，2023（7月）:98-99.

　　[2] 习近平.之江新语[M].杭州：浙江人民出版社，2007.

　　陈建飞 金华市新闻传媒中心党委委员、副主任

　　楼盼 金华市新闻传媒中心时政新闻部副主任