“全红婵带货蜂蜜”，这些短视频是怎么发出来的？

　　文 | 胡炜（新京报传媒研究院）

　　全红婵作为当下世界顶尖的跳水运动员，一次又一次为国争光，再加上其鲜明个性，受到公众喜爱，在社交平台人气颇高，有些人就动起了歪脑筋。

　　近日，名为“婵宝小助理”“全妹福利号”等多个账号，通过AI伪造全红婵及家人的声音和形象，生成虚假视频内容，在社交平台发布并带货。

　　4月29日，全红婵父亲无奈发声，那些带货蜂蜜的视频全是AI伪造的，他们一家人根本没有参与过。“帮我辟谣一下，我没有卖这东西，什么蜂蜜才十几块钱一斤，拿糖来搞都搞不到。” 一句简单的话语，道出了满满的无奈与愤怒。

　　01

　　短视频新玩法之祸

　　近年来，随着AI技术的发展，换脸拟声已成为简单易操作的“低门槛”技术，只需拥有声音与照片等“素材”，借助软件即可瞬间实现“AI克隆”。在短视频平台，存在大量运用AI换脸技术创作的短视频，不仅满足了用户的娱乐需求，也为创作者带来了大量的流量和关注，成为了短视频创作的一种“新玩法”。

　　但是慢慢地这种技术被一些不法分子盯上，成为了他们制造虚假内容、骗取利益的工具。他们利用AI换脸技术，将公众人物的脸合成到带货视频中，借助公众人物的知名度和影响力，诱导消费者购买产品，从而谋取利益。“全红婵带货蜂蜜”的视频，就是这种恶劣行为的典型代表。

　　不仅是全红婵，靳东、刘晓庆、雷军等众多公众人物也都遭遇过类似的AI造假，成为受害者。刘晓庆曾惊讶地发现微信视频号里有许多 AI 生成的视频在假冒她，张馨予则发文怒斥有商家利用AI技术复制其声音售卖减肥药。

　　“红婵带货蜂蜜”这类虚假视频的出现，带来的危害是多方面的，从个人权益到市场秩序，再到网络生态，无一幸免。

　　对于公众人物而言，这严重侵犯了他们的肖像权、名誉权和隐私权，同时也面临着形象受损的风险，他们的声誉可能在一夜之间因为这些虚假视频而受到严重打击。

　　虚假带货视频还对消费者的行为造成严重误导，损害了消费者的合法权益。许多消费者是出于对全红婵等公众人物的喜爱和信任才购买产品的，但他们收到的产品往往与视频宣传不符，质量参差不齐，甚至可能存在安全隐患，严重影响了消费者的购物体验和对市场的信心。

　　从整个网络平台和市场生态来说，虚假带货视频破坏了公平竞争的市场秩序，扰乱了网络平台的正常运营。这些不法分子通过不正当手段获取流量和利益，挤压了正规商家和创作者的生存空间，导致市场劣币驱逐良币。同时，大量虚假视频的存在，也降低了平台的内容质量和用户体验，让用户对平台产生不满，影响平台的长期发展。

　　02

　　平台责无旁贷

　　平台作为流量经济的重要一环，不仅仅是传播渠道，也是受益者，更肩负着审核监管的义务。

　　河南泽槿律师事务所主任付建在接受媒体采访时表示，“平台有权依据《互联网信息服务管理办法》《电子商务法》以及平台规则履行监管义务，对违法商家采取封禁账号、限流等处理措施。如果未及时采取合理措施导致损害扩大的，对扩大部分与不法商家承担连带责任。”

　　面对AI虚假带货视频的泛滥，平台需要积极探索应对之策，力求从源头上遏制这种不良现象的蔓延，否则，将会失去用户的信任，最终影响整个平台经济的健康发展。

　　平台当务之急是提升技术手段，进一步加强对内容的审核力度，确保每一个违规视频都不能逃过监管。可尝试通过升级其智能审核系统，利用更先进的AI图像识别和语音识别技术，对上传的视频进行全方位扫描，一旦检测到视频中存在AI换脸、虚假宣传等违规行为，立即进行拦截和处理，用“魔法打败魔法”。

　　此外，平台还可以建立用户举报机制，鼓励用户积极参与监督，对于举报属实的用户给予一定的奖励，形成全民参与的监督氛围。比如，当用户发现某个全红婵带货蜂蜜的视频存在异常时，可以点击举报按钮，协助平台加强对虚假违规视频的发现和处理。

　　03

　　全方位治理

　　面对网络上虚假带货视频的泛滥，社会各界需要联动起来，积极探索应对之策。

　　今年两会期间，全国人大代表、小米集团创始人雷军建议“加强‘AI换脸拟声’违法侵权治理”，全国政协委员靳东更是建议AI换脸立法。

　　中央网信办也重拳出击，自4月15日开启为期3个月的“清朗·整治短视频领域恶意营销乱象”专项行动，重点聚焦的问题之一就有涉及“利用‘换脸’‘换声’‘P图’等手段编造不实内容”问题。

　　“全红婵带货蜂蜜”事件既是技术滥用的警示录，更是重建数字伦理的动员令。当AI能完美复刻奥运冠军的每个微笑和褶皱，当亲情和爱重成为流量游戏的筹码，我们不得不重新审视数字时代对“真实”的定义。在这场“真实保卫战”中，守护的不仅是明星肖像权，更是我们每一个人在数字文明中安身立命的根本。