脑机网 脑机网LOGIC.WANG
脑机网 · 一线 AI 与脑机接口观察
每天更新,只讲能落地的技术、机器人与商业化进展。
看今日文章
ESC

200 万条提示词,隐私标签只管了第一跳

200 万条提示词,5 个月,平均每天 1.3 万条。

2026-11-22 · 2434 字 · 脑机网信息截止 2026-11-22

本文为脑机网原创内容,基于公开信息与公开数据分析,不构成任何投资建议。

200 万条提示词,5 个月,平均每天 1.3 万条。

这是 HD Moore 团队做的事。Moore 是 Metasploit 的创建者,现在是工业安全公司 Dragos 的首席研究官。团队在 5 个月里向广泛使用的 AI 服务提交了约 200 万条提示词,每条带三样东西:一个只属于它的 URL、一个只属于它的 DNS 名、一份真实的 AWS 凭证。凭证指向一个空的、全量记录日志的账户,账户里没有真实数据,被碰到也不会牵连别人。

三样东西,都是饵。

提示词在哪儿被用过,URL 就会被访问,DNS 就会被查询,凭证就会被尝试。三者一响,就能追回这条提示词经过了哪个模型、哪条路由、带着什么隐私标志。这套办法把“隐私”从一句承诺,变成了一个可以追踪的地址。

一个地址,一条路径。

200 万条怎么撒

报告把它叫首次大规模推理供应链隐私层的实证测试。关键词是“供应链”。用户看到的是一个聊天框,聊天框后面排着路由、转售、日志,一层套一层。一条提示词从输入到出结果,要过好几手,每一手都可能留下副本。几层里,只有第一层是用户点得到的那一层。团队把 200 万条饵撒进这条链,等的不是某一次攻击,是哪一手会先碰它。

第一跳,是模型。

第二跳开始,标签不一定跟着。这句话是整份报告的地基。

一份报告的可信度,取决于别人能不能重做。这套方法的好处是可重做:注册一个空账户,打开全量日志,生成一批带独立地址的提示词,剩下的就是等。200 万条这个量级,让每一层都有足够多的样本。单条泄漏可以解释成意外,同一条路径反复出现,解释不成意外。

三家不知道

第一个发现:3 家推理供应商正在被入侵。其中最大的一起,几百个诱饵密钥各只发过一次请求,就全被偷走了。这里面包括被供应商在模型运行前就拒绝掉的请求,请求没进模型,密钥已经流出去了。报告的解释是,攻击者在门口复制流量,不等请求进屋。

在门口就复制了。

3 家供应商在被通知之前,都不知道自己正在被入侵。入侵发生在他们看得见的链路上,他们没看见。这不是模型被攻破,是流量在进模型之前被复制。模型的防护做得再好,也管不到门口那一段。

门口不归模型管。

对用户来说,这件事没有可操作的部分。选供应商的时候,没有任何一个指标会告诉你门口有没有人在复制。3 家供应商自己也是被入侵的一方,在接到通知之前,他们和用户知道得一样多。

日志工具也在读

第二个发现更日常:推理市场里的转售商,用普通的日志工具读取并留存客户的提示词。不是攻破,不是绕过,是工具本来就能读。转售商夹在用户和模型之间,用户以为自己在跟模型说话,中间隔着一层会把话记下来的服务。这一层,用户既看不见,也选不了。

普通工具,普通权限。

一起案例里,一名攻击者从法国家庭宽带出手,从两条提示词里拿到密码,然后手工尝试 SSH root 登录。不需要自动化,不需要漏洞,两条就够。

24 天后的飞书

第三个发现最难解释。一条标记了零数据留存(ZDR)的提示词,发给一家美国供应商,24 天后出现在飞书聊天里,从北京与上海的设备打开。ZDR 的意思是零数据留存,服务方承诺不存。承诺覆盖了模型这一跳,没有覆盖这条提示词后来怎么走。承诺的边界,停在服务方自己的系统里。

24 天。

中间经过谁,报告没有点名。能确定的只有时间、地点和载体:24 天,北京和上海,飞书。

不点名是这份报告的一贯做法:它测的是链路,不是某一家公司。

24 天这个数字,还说明另一件事:数据流出去了,不会自己消失。它留在聊天记录里、留在设备上,等着被打开。零留存约束的是服务方的存储,不是这条提示词之后的每一次复制。

三分之二的抓取

第四个发现:发给某中国 AI 实验室模型、标记“不收集数据/ZDR”的请求里,约 2/3 的 canary URL 仍被其系统抓取,通常在请求后 2 到 3 天。这里说的是抓取,是一个技术现象:带标记的 URL 出现在了对方的系统里。它不构成对这家实验室的定性,报告也没有做这个定性。

抓取,不是定性。

2/3 这个比例,意味着三条里有两条会被碰到,一条不会。既不是“全都”,也不是“个别”。

时间是 2 到 3 天,不是立刻,也不是一个月。

延迟落在请求之后的处理环节,不在请求的当下。

把四个发现排一下,会发现攻破只占一部分。3 家供应商是被入侵,法国家庭宽带那位是在试密码;转售商留日志、提示词出现在飞书、2/3 被抓取,都发生在正常功能里。日志要留、链接要能打开、网页要被索引,这些都不是漏洞。隐私的问题,很多时候不在防护,在功能。

标签贴在哪里

报告的概括只有一句话:隐私标志只约束第一跳。标志是随请求走的,不是随数据走的。请求进了模型,标志还在;数据从模型出来,标志就没了。后面那一手看到的是一段普通文本,不知道它曾经被标过 ZDR,也不知道它不该被存。标签只能管到它跟着的那一程。

标签贴在请求上。

数据离开请求,标签就失效。前面四个发现,问题都不出在标签本身,出在标签没跟过去。

审不到的那一层

供应链比模型更难审。模型可以要报告、要评测、要第三方复跑;供应链上的一层转售、一个日志工具、一次转发,没有对应的审计入口。审一家模型,看的是它的权重和评测;审一条链路,看的是每一手有没有留下副本。

审模型,审不到转售。

模型有榜单、有评测、有复跑,供应链什么也没有。一条提示词经过好几层,只有第一层有公开的评测标准。后面几层靠合同、靠自律、靠事后追查,追查的入口是日志,而日志本身,正是第二个发现里被读完的那份东西。

用户能选模型,能选套餐,能选要不要留历史记录,选不了路由经过谁。路由是服务方的事,转售是商务的事,日志是运维的事,三件事都不在用户的界面上。供应链的隐私问题,说到底是选择权只走到了第一跳。

200 万条饵的成本,是 5 个月和一份 AWS 账户。收益是四个可以被复现的发现,以及一句可以被引用的结论。这套方法的价值不在数字大,在它把“隐私”从一份声明,变成了一个可以追踪的 URL。声明可以改,路径改不了。

一个 URL,一条路径。

抓取发生在请求后 2 到 3 天。2/3 这个数还留在报告里,等下一轮复测。

免责声明:本文基于公开信息撰写,仅供读者参考,不构成任何投资建议。

数据与信源

信息截止 2026-11-22。文中数据以该日期前已公开的信息为准。

本文引用 公开报道与公司公告(未逐条列示)。

本站历史文章在正文中标注了来源机构与时间,但未逐条附原始链接。如需核验文中任一具体数字,请在评论区注明段落与数据,我们会在 2 个工作日内补出处。

本文为脑机网原创内容,基于公开信息与公开数据分析,不构成任何投资建议。

查看「政策监管」更多内容 → · 返回首页

引用本文

欢迎媒体、智库与研究机构引用。引用时请注明来源「脑机网」并保留原文链接,同时保留文章页标注的「信息截止」日期。转载规则见 引用与转载规范。

GB/T 7714脑机网编辑部. 200 万条提示词,隐私标签只管了第一跳[EB/OL]. (脑机网)[2026-11-22]. 北京: 脑机网, https://aiai.cafe/a/njw-dragos-canary-privacy-1122. 2026-11-23.
APA脑机网编辑部. (2026, November 22). 200 万条提示词,隐私标签只管了第一跳. 脑机网. https://aiai.cafe/a/njw-dragos-canary-privacy-1122
脑机网 · 一线 AI 与脑机接口观察
每天更新,只讲能落地的技术、机器人与商业化进展。
看今日文章