虚假、偏见、歧视、不透明……人工智能生成新闻的这些bug，怎么办？

　　导读

　　生成式人工智能（GAI）已深度融入新闻业的各个环节，推动新闻传播领域的广泛变革。然而，随之而来也引发了关于新闻真实性减弱、低透明性、偏见和歧视等伦理问题。本研究反思技术创新与伦理的互动关系，呼吁学界、新闻行业继续关注生成式人工智能在新闻实践中的伦理问题，推动相关政策与法律的完善。

　　生成式人工智能在新闻业的运用

　　通过在海量文本数据上进行预训练，生成式人工智能能够理解语言的语义和结构，并在此基础上进行各种生成任务，这使得生成式人工智能在新闻采集、内容创作等多领域中得到了广泛应用。

　　新闻采集。新闻采集是新闻报道的基础。传统新闻实践中，记者往往通过实地走访获取新闻线索、进行调查采访。随着生成式人工智能技术的快速发展，新闻采集的方式迎来了全新的转变。GAI通过自然语言处理技术（NLP），能够自动阅览并分析文本、图片、视频等多源异构的海量数据，从中提取出有新闻价值的线索。具体而言，GAI主要用于“主题趋势分析”与“预测新闻事件和场景”，快速预测哪些内容可能有新闻价值。

　　新闻编辑。新闻编辑是新闻生产流程中的核心环节，它要求对采集到的素材进行筛选、加工，以保证新闻内容的导向正确、事实无误、内容精彩。生成式人工智能通过深度学习和自然语言处理技术，自动生成新闻摘要、编写文章标题、校对文本错误、识别重复内容等。生成式AI在新闻编辑中的应用不仅限于基本的文字处理，它还可以通过分析新闻的语义结构和主题，自动优化内容布局。

　　新闻分发。新闻分发是新闻传播链条的最后一环，其目的是将编辑好的新闻内容以最合适的方式推送给目标读者。生成式AI结合大数据分析技术，能够实时追踪用户的阅读习惯、兴趣偏好和浏览行为，进而个性化定制新闻内容的推荐方案。

　　澳大利亚新闻集团每周使用AI制作3000篇本地新闻故事

　　生成式人工智能应用的伦理争议与反思

　　新闻伦理即“指导新闻社会实践的道德规范，包括其多种技术形式”。随着新技术形式继续塑造甚至重新定义新闻业，道德视角对于评估新闻原则以及更广泛的社会影响变得至关重要。一些专业人士表示亟须出台一些针对生成式人工智能伦理道德规范的法律法规，重塑新闻行业的职业规范。

　　真实性受损

　　新闻工作首先要对真实性负责，然而，随着数字时代的到来，学界和业界都在重新审思“新闻真实性”，围绕层出不穷的新技术与“新闻真实性”的讨论愈演愈烈。

　　人民日报报道男子用AI制造假信息

　　当前，媒体机构与人工智能的合作并非新事。Narrative Science于2010年开始提供内容，该公司向新闻媒体提供自动化体育新闻；美联社于2014年开始提供自动化财经新闻；华盛顿邮报于2016年开始使用人工智能工具报道奥运会和大选。

　　尽管自2017年以来，生成式人工智能就以“深度伪造”的形式出现，但随着2022年ChatGPT的推出，生成式人工智能作为一种生产力工具被用户熟知。媒体机构不仅要面对内容真实性的挑战，还必须重新思考如何在技术变革的时代保持公众对新闻行业的信任度。

　　2023年8月，美联社发布一份给记者和编辑的“生成式人工智能使用指南”，规定智能生成内容在发布前必须通过人工审查，不能使用智能工具更改照片、视频或音频素材的任何元素，也应避免传播虚构现实的图像。

　　美联社发布“生成式人工智能使用指南”

　　不透明性

　　美国新闻学者Kovach和Rosenstiel提出“透明原则”，因针对专业媒体而又被广泛称为新闻透明性原则。其后，Plaisance进一步将新闻透明性纳入伦理学的学术脉络，认为“透明性”根植于康德提出的“人性原则”，意味着对他人的真诚和坦率，是一种道德义务并决定着道德行为的本质。

　　生成式人工智能基于复杂算法和海量数据进行内容生产，在GAI技术中，透明度是算法的一种属性，它允许用户和专家评估算法的属性。例如，与聊天式界面交互的用户应该被告知他们是在与真人还是聊天机器人交流。

　　但生成式人工智能基于复杂的算法和海量数据进行内容生产，这种“黑箱”式的生成机制使得大众难以理解内容的来源、处理过程及其背后的决策逻辑。调研显示，绝大多数受访者（93.8%）表示希望披露人工智能的使用情况，超过一半的受访者表示，他们想知道人工智能在报道过程中是如何使用的，以及所使用的具体工具。新闻透明性的缺失，很容易使公众对新闻的真实性和公正性产生怀疑。

　　比利时新闻委员会凭借《记者守则》，成为欧洲在其准则中处理人工智能使用的领军者之一。有关透明度以及人工智能的条款包括：

　　第十二条——记者应公开自己的使命、方法和工作方式。记者应在可能和相关的范围内向其受众清楚地传达这一点。

　　第十二条指导原则——人工智能可以在新闻项目的收集、编辑、制作和分发中发挥作用，例如文章、报告、插图、信息图表等。编辑的选择在这种部分或完全自动化的过程中发挥着重要作用。这些选择必须符合本法的原则。编辑对这些编辑选择负责，最终责任由主编承担。

　　偏见与歧视

　　偏见与歧视是生成式人工智能带来的另一伦理风险。

　　GAI模型高度依赖于海量数据，而这些数据往往来自过去新闻报道、社交媒体内容或其他信息来源。然而，这些内容并不总是中立的，嵌入在人工智能技术中的算法可能会无意中在整个新闻价值链中引入偏见。

　　普林斯顿大学的一个研究小组发现，算法无法获得绝对的真相。机器语料库中包含的偏见与人类大脑中观察到的隐性偏见非常相似。生成式人工智能工具已经能够根据简短的提示生成内容，这可能会挑战新闻内容的准确性、真实性和可信度。

　　佛罗里达大学新闻与传播学院的一项研究显示，GAI生成的新闻更频繁地使用某些单词和短语，这可能会放大偏见。然而，研究还发现，人工智能生成的新闻并不一定比人类报道更具偏见。事实上，与人类相比，机器撰写的文章包含的与性别和种族/民族相关的偏见内容较少。这项研究也强调了新闻编辑室使用人工智能工具的透明度和问责制的必要性，以及对自动化新闻的潜在好处和风险的持续研究。

　　（作者单位：王功尚，楚天都市报·极目新闻；夏琳昕，华中师范大学新闻传播学院；吴鑫晨，西华大学文学与新闻传播学院）

　　——本文摘自《新闻前哨》2025年5月（上），原标题《生成式人工智能的新闻实践及其伦理反思》。引用请参考原文。