几天前，央视《每周质量报告》的一期调查让“AI假医生带货”成为热点。画面中，一位身着白大褂的“医疗人员”对着镜头，坚定地推荐某种药品，宣称“血管堵塞的，吃了就能根治，心慌胸闷喘不上气的它都能行……”

实际上，这名“医生”是AI数字人，完全没有相关资质。

随着AI技术的快速发展，AI数字人不仅威胁到演员和明星的饭碗，也深入到视频生成领域的方方面面。而制作这样一个“医务人员带货视频”的成本，已经低得令人惊讶。

例如，调查中披露的一款号称“AI视频一键生成”的App，一周收费仅48元，上传一张水果照片、选择“带货视频”，几分钟后一段8秒的数字人广告就完成了。让AI医生带货，也是同样的流程。

一个基于AI角色生成的流水线逐渐成型，从AI短剧女主角为美瞳产品宣称“我戴了一天非常舒适”，到假冒央视主持人播放虚假广告，再到“张文宏”“张伯礼”等名人形象被批量“改造”带货。这里谴责“AI又在骗人”意义不大，关键在于看清一个技术经济学的结构：当造假的内容产能不再受限于人的物理存在，违规的规模瓶颈就被彻底消除了。

真人博主一天能拍的视频数量有限，AI数字人则可以批量生成大量不同“专家”形象。而且，一条视频翻车甚至被封号后，换张脸就能重新开始。要看清这条“流水线”的技术黑箱，就需要从工具定价、生成机制到合规盲区，这些门道值得仔细分析。

1、“一周48元”，能买到什么？

首先要弄清楚的是，市面上能生成数字人带货视频的工具都在什么价格区间，以及覆盖了哪些功能。

实际上，央视曝光的“一周48元”AI生成工具，价格对应的是最简化的功能。例如上传单张照片、选择模板、输入少量提示词、自动生成几秒到十几秒的视频。它不提供精细调控，但已具备核心的“可识别的人物形象+口播动作+口型同步”等功能。

根据测试，用户上传一张水果照片，选择“带货视频”，软件就能根据图片一键生成一段8秒的数字人带货视频，用时仅需几分钟。

可以看出，这种“一周48元”的工具生成的视频，仍有明显的AI味道。海外市场，同类工具也不少，比较知名的如HeyGen，其Creator套餐月付29美元，约合人民币210元，按每分钟20点数计算，制作5分钟数字人视频约花费4.83美元，折合人民币约35元。与国内工具差不多。

这类工具的产品定位更偏向企业营销，并非所有工具都采用这种定价逻辑。

阿里云百炼平台的“一图生成高清数字人”方案代表另一种模式，其按量付费，无月费门槛。图像检测模型0.004元/张，视频生成模型480P分辨率0.5元/秒、720P分辨率0.9元/秒，角色替换标准模式0.6元/秒、专业模式0.9元/秒。

一条10秒的480P数字人视频，按模型价格计算约5元；一条720P的20秒视频约18元。批量生成时单价还可以进一步降低。这意味着，即使不走“48元周费”的低端路线，走诸如阿里云按量付费的路线，入门成本同样不高。

然而，真正的关键不是价格本身，而是当提示词明确要求“生成一位医务工作者，对一款膏药进行带货”时，这些AI工具都没有进行拦截，其算法中“并没有设置相应的限制”。

输入几个字就能一键生成场景，白大褂、胸牌、实验室背景由算法配齐，年龄、职称也可随意设定。甚至有些工具还支持批量制作、精准投放，并提供去除水印功能，让患者难辨真假。

这意味着，从技术上看，制作一条“穿白大褂的医务工作者”的视频，已经不需要真实的医生数据，不需要资质审核，不需要任何身份验证，只需要一张任意人脸照片，再加上一句提示词就可以。

48元买到的不只是一条视频，而是一个默认不做行业身份限制的生成引擎。

这里有一个技术维度值得重点关注，HeyGen等工具在海外市场被广泛用于企业培训、产品讲解和销售演示，其产品设计中有明确的“商业用途”区分。免费版禁止广告和客户项目，付费版才允许商业使用。但这种限制针对的是使用场景，而不是人物身份。

因此，用户付钱就可以用AI工具生成一个“CEO形象”讲解产品，同样也可以生成一个“医生形象”讲解药品。

而对于“这个人声称自己是谁”的真假，AI工具本身不做判断。但事实上，工具设计者本可以在算法层面设置“医务人员形象+药品”这类组合的拦截规则。

2、AI视频，最缺的是什么？

一个数字人的带货视频制作，在技术上已经不难，可以概括为人物形象生成、语音合成、口型与动作驱动、场景与产品融合，缺少的就是“资格审核”。

人物形象生成上，当前的AI工具已能做到“一张照片驱动”。阿里云的技术方案中，只需要检测输入图像是否满足面部清晰、无遮挡等要求，就可以生成人物动态视频，支持唇形同步和视频换人。

因此，从技术输入端看，生成一个“穿白大褂的医务工作者”不需要真实的医生数据。白大褂、诊室背景、专业话术，全部由算法填充，几乎可以说是零门槛。过去想拍类似的视频，还要找人扮演医生，需要准备场地、道具和话术，如今输入几个字就能一键生成。

而且，语音合成与口型驱动都已经一体化，甚至可以支持175种以上的语言和口型同步翻译。技术上，它并不关心这段文本的内容是产品说明书还是医疗建议。

人物交互上，更高阶的技术已经能让虚拟人物自然地把产品拿在手里、展示给镜头。数字人可以不只是“站在产品旁边说话”，而是能像真人主播一样拿起商品、翻转展示。这项技术的技术价值是提升数字人视频的自然度，但其应用场景同样不区分“展示化妆品”和“展示药品”。

因此，整条技术链条上，真正缺失的环节就是“这个人是否有资格以医务工作者身份说话”的审核。

那么，为什么AI视频产品不做这个审核？

有一个商业逻辑还是在成本上，高端模型的成本主要投入在视觉质量的提升上，比如更自然的表情、口型和动作，重点在“生成得更像”，而不是“生成得更对”。产品迭代的方向是画质和自然度，而不是“审核生成内容的合规性”。

然而，工具端不做身份审核，意味着这个法律判断完全依赖发布端的自觉，而发布产品的人，恰恰最没有动机自觉地去做审核。

而且，尤其值得注意的是一种误区，就是很多商家以为标注了“AI生成”就能免责。他们不知道的是，即便标注“AI生成”，也无法豁免相关法律责任。标识制度解决的是“知情”问题，而不是“诚信”问题。

标注了“AI效果展示”的广告仍然要遵守广告法，出了问题，该负责的还必须要负责，而且要穿透到AI视频的屏幕背后。

据天眼查信息显示，佛山市新娱科技有限公司曾利用AI技术，将“三农”问题专家温铁军的肖像、声音及视频片段合成“AI温铁军”，制作了时长65秒的商品推销视频，被佛山市市场监管局认定为虚假广告，被处以行政处罚并下架了相关视频。

尤其值得重视的，是AI视频泛滥的医疗健康领域。

3、收益和处罚成关键，AI制作方应担责

央视的调查中显示，AI数字人广告大量以“医务工作者”“领域专家”形象出现，推广眼部疾病、白发养护等药品和保健品，“部分视频还展示了所谓的‘科学实验’场景”，甚至还频频出现夸大疗效的表述。

实际上，AI数字人医生最危险的还不是卖一个可能没有效果的产品，而是把AI技术变成了一个负面信任放大器。即便是真人医生，也都要受到严格约束，数字人不具备真实试用条件，更不能大谈功效、替医疗产品代言。

然而，AI生成工具不检查这些，发布者更不会主动申报。而且，AI生成工具的“不作审核”还有一个容易被忽略的维度，即AI无限拉低了试错成本。

真人假冒医生带货，一旦被识破，账号被封、真人出镜，追责路径清晰。AI数字人假冒医生，一条视频被下架，换一张照片、重新生成，几分钟后新账号可以继续运行。生成工具的低成本和高速度，让“封号”不再是有效的威慑手段。

当然，随着AI视频广告的泛滥，新的监管案例也在出现。

今年4月，北京双泰元贸易有限公司在电商平台直播间使用AI虚拟人推销普通食品“某全安粉”，宣称“有助于提高免疫力”“喝了之后抵抗力会有所提升”。昌平区市场监管局认定构成虚假宣传，责令停止违法行为并罚款5000元。

市场监管总局在发布该案例时明确指出：“本案系2026年2月《直播电商监督管理办法》施行后，北京市查处的首个AI虚拟人直播带货虚假宣传普通食品具有保健功能的典型案件，明确指出，AI虚拟人并非虚假宣传的挡箭牌”。

这个案例确立了一个信号，在法律上，AI虚拟人的“虚拟性”不构成免责理由。

但其中的局限同样很明显，就是处罚力度似乎不够。5000元的罚款额度和动辄“几元成本、几十万传播量”的违法收益相比，可能很难改变AI广告泛滥的现状。

从技术上来说，让AI视频生成工具在生成环节拦截特定组合，比如出现“医务人员+药品”“专家+疗效声明”这样的组合时，就加大审核力度，并不是不可行。

问题在于，是否有人要求工具方这样做。例如，阿里云的图像检测模型已经在做“输入图像是否满足要求”的前置判断，但其是否有足够的动力推动技术落地仍然存疑。

然而，面对AI视频广告泛滥的现状，治理不能只靠事后下架正在成为共识。生成软件有义务规范使用行为，尤其是对涉及药品疗效等内容进行前置拦截。根本上，几元成本和几十万传播量的违法收益与几乎为零的拦截成本反差太大，导致工具设计者自然选择“不作审核”。要改变这个选择，需要的不是道德劝说，而是一条清晰的责任线。

数字人无法担责，责任必须穿透到屏幕背后那个选择“不作审核”的真人，以及提供制作能力的AI视频制作公司。你觉得呢？

本文来自微信公众号“铑科技”，作者：鸿辰，编辑：头头，36氪经授权发布。