一个 AI 短剧里的女主角,在视频里说:我的美瞳戴了一天,都很舒服。
据证券时报报道,这个叫「方桃子」的虚拟人因此被罚。信用广东公布的行政处罚信息显示,因虚构使用效果、未取得医疗广告审查证明发布第三类医疗器械广告,罚款 6.83 万元。
6.83 万元,对一个可以批量生产「亲测体验」的账号来说,是贵还是便宜?
561 万条,4.9 万个账号
11 月 19 日,中央网信办通报「清朗·整治AI应用乱象」专项行动第二阶段的典型案例。
通报里有三个数字:累计清理违法违规信息 561 万余条,查处账号 4.9 万余个,处置违规网站、应用程序等 2400 余个。
561 万除以 4.9 万,约等于 114。
平均每处置一个账号,连带清理 114 条信息。这个除法是我自己做的,两个数字的口径不一定严格对应,但量级关系是清楚的:账号是节点,信息是流量,处置是从节点上往下摘。
七类案子,指向同一件事
通报列了七类:AI 魔改经典名著;AI 生成虚假灾害和救援画面;AI 换脸换声假冒公众人物;批量发布暴力低俗内容;AI 侵害未成年人权益;用 AI 托管做网络水军;AI 应用的智能体简介和对话含违规内容。
七类里,有五类的共同点是一样的:AI 只是工具,目的是流量和钱。
这也解释了治理动作为什么落在账号和应用上,而不是落在模型上。
标识解决知情,不解决真实
据证券时报报道,《人工智能生成合成内容标识办法》去年 9 月施行。今年 3 月,市场监管总局进一步明确:以 AI 虚构的人物形象为产品、服务作推荐、证明,未对 AI 内容作出提示,可能造成消费者误解的,可以认定为虚假广告。
评论里有句话值得记下来:标注 AI 生成不等于广告合规。标识解决的是知情问题,真实性决定广告能不能成立。
这句话可以套到方桃子的案子上。即使观众知道屏幕里是虚拟人,把没发生过的心得说成事实,仍然是虚假。
六万八的罚单在传递什么
6.83 万元,对应的是第三类医疗器械广告没有审查证明,加上虚构使用效果。
对一个账号,这是一笔钱。对一条产业链——剧本、生成、投放、分账——这笔钱摊到每一环,几乎可以忽略。
所以真正有威力的不是罚款金额,是「可以认定为虚假广告」这句话。
它把 AI 虚拟人带货从灰色地带挪进了广告法的管辖范围。后面的连带责任、平台审核义务,才有落点。
通报最后一段是常规表述:下一步将持续关注 AI 生成合成内容的新情况,防范滥用恶用。
治理的节奏,通常比技术扩散慢半年到一年。这半年里,靠的是平台自己拦。
说明:本文事实出自中央网信办通报与证券时报报道;114 条为笔者把两个数相除,不构成投资建议。