---
title: "200 万条提示词，隐私标签只管了第一跳"
date: 2026-11-22
category: 政策监管
site: 脑机网
canonical: https://aiai.cafe/a/njw-dragos-canary-privacy-1122
language: zh-CN
---

# 200 万条提示词，隐私标签只管了第一跳

> 200 万条提示词，5 个月，平均每天 1.3 万条。

200 万条提示词，5 个月，平均每天 1.3 万条。

这是 HD Moore 团队做的事。Moore 是 Metasploit 的创建者，现在是工业安全公司 Dragos 的首席研究官。团队在 5 个月里向广泛使用的 AI 服务提交了约 200 万条提示词，每条带三样东西：一个只属于它的 URL、一个只属于它的 DNS 名、一份真实的 AWS 凭证。凭证指向一个空的、全量记录日志的账户，账户里没有真实数据，被碰到也不会牵连别人。

三样东西，都是饵。

提示词在哪儿被用过，URL 就会被访问，DNS 就会被查询，凭证就会被尝试。三者一响，就能追回这条提示词经过了哪个模型、哪条路由、带着什么隐私标志。这套办法把“隐私”从一句承诺，变成了一个可以追踪的地址。

一个地址，一条路径。

## 200 万条怎么撒

报告把它叫首次大规模推理供应链隐私层的实证测试。关键词是“供应链”。用户看到的是一个聊天框，聊天框后面排着路由、转售、日志，一层套一层。一条提示词从输入到出结果，要过好几手，每一手都可能留下副本。几层里，只有第一层是用户点得到的那一层。团队把 200 万条饵撒进这条链，等的不是某一次攻击，是哪一手会先碰它。

第一跳，是模型。

第二跳开始，标签不一定跟着。这句话是整份报告的地基。

一份报告的可信度，取决于别人能不能重做。这套方法的好处是可重做：注册一个空账户，打开全量日志，生成一批带独立地址的提示词，剩下的就是等。200 万条这个量级，让每一层都有足够多的样本。单条泄漏可以解释成意外，同一条路径反复出现，解释不成意外。

## 三家不知道

第一个发现：3 家推理供应商正在被入侵。其中最大的一起，几百个诱饵密钥各只发过一次请求，就全被偷走了。这里面包括被供应商在模型运行前就拒绝掉的请求，请求没进模型，密钥已经流出去了。报告的解释是，攻击者在门口复制流量，不等请求进屋。

在门口就复制了。

3 家供应商在被通知之前，都不知道自己正在被入侵。入侵发生在他们看得见的链路上，他们没看见。这不是模型被攻破，是流量在进模型之前被复制。模型的防护做得再好，也管不到门口那一段。

门口不归模型管。

对用户来说，这件事没有可操作的部分。选供应商的时候，没有任何一个指标会告诉你门口有没有人在复制。3 家供应商自己也是被入侵的一方，在接到通知之前，他们和用户知道得一样多。

## 日志工具也在读

第二个发现更日常：推理市场里的转售商，用普通的日志工具读取并留存客户的提示词。不是攻破，不是绕过，是工具本来就能读。转售商夹在用户和模型之间，用户以为自己在跟模型说话，中间隔着一层会把话记下来的服务。这一层，用户既看不见，也选不了。

普通工具，普通权限。

一起案例里，一名攻击者从法国家庭宽带出手，从两条提示词里拿到密码，然后手工尝试 SSH root 登录。不需要自动化，不需要漏洞，两条就够。

## 24 天后的飞书

第三个发现最难解释。一条标记了零数据留存（ZDR）的提示词，发给一家美国供应商，24 天后出现在飞书聊天里，从北京与上海的设备打开。ZDR 的意思是零数据留存，服务方承诺不存。承诺覆盖了模型这一跳，没有覆盖这条提示词后来怎么走。承诺的边界，停在服务方自己的系统里。

24 天。

中间经过谁，报告没有点名。能确定的只有时间、地点和载体：24 天，北京和上海，飞书。

不点名是这份报告的一贯做法：它测的是链路，不是某一家公司。

24 天这个数字，还说明另一件事：数据流出去了，不会自己消失。它留在聊天记录里、留在设备上，等着被打开。零留存约束的是服务方的存储，不是这条提示词之后的每一次复制。

## 三分之二的抓取

第四个发现：发给某中国 AI 实验室模型、标记“不收集数据／ZDR”的请求里，约 2/3 的 canary URL 仍被其系统抓取，通常在请求后 2 到 3 天。这里说的是抓取，是一个技术现象：带标记的 URL 出现在了对方的系统里。它不构成对这家实验室的定性，报告也没有做这个定性。

抓取，不是定性。

2/3 这个比例，意味着三条里有两条会被碰到，一条不会。既不是“全都”，也不是“个别”。

时间是 2 到 3 天，不是立刻，也不是一个月。

延迟落在请求之后的处理环节，不在请求的当下。

把四个发现排一下，会发现攻破只占一部分。3 家供应商是被入侵，法国家庭宽带那位是在试密码；转售商留日志、提示词出现在飞书、2/3 被抓取，都发生在正常功能里。日志要留、链接要能打开、网页要被索引，这些都不是漏洞。隐私的问题，很多时候不在防护，在功能。

## 标签贴在哪里

报告的概括只有一句话：隐私标志只约束第一跳。标志是随请求走的，不是随数据走的。请求进了模型，标志还在；数据从模型出来，标志就没了。后面那一手看到的是一段普通文本，不知道它曾经被标过 ZDR，也不知道它不该被存。标签只能管到它跟着的那一程。

标签贴在请求上。

数据离开请求，标签就失效。前面四个发现，问题都不出在标签本身，出在标签没跟过去。

## 审不到的那一层

供应链比模型更难审。模型可以要报告、要评测、要第三方复跑；供应链上的一层转售、一个日志工具、一次转发，没有对应的审计入口。审一家模型，看的是它的权重和评测；审一条链路，看的是每一手有没有留下副本。

审模型，审不到转售。

模型有榜单、有评测、有复跑，供应链什么也没有。一条提示词经过好几层，只有第一层有公开的评测标准。后面几层靠合同、靠自律、靠事后追查，追查的入口是日志，而日志本身，正是第二个发现里被读完的那份东西。

用户能选模型，能选套餐，能选要不要留历史记录，选不了路由经过谁。路由是服务方的事，转售是商务的事，日志是运维的事，三件事都不在用户的界面上。供应链的隐私问题，说到底是选择权只走到了第一跳。

200 万条饵的成本，是 5 个月和一份 AWS 账户。收益是四个可以被复现的发现，以及一句可以被引用的结论。这套方法的价值不在数字大，在它把“隐私”从一份声明，变成了一个可以追踪的 URL。声明可以改，路径改不了。

一个 URL，一条路径。

抓取发生在请求后 2 到 3 天。2/3 这个数还留在报告里，等下一轮复测。

**免责声明：本文基于公开信息撰写，仅供读者参考，不构成任何投资建议。**

---

来源：脑机网（https://aiai.cafe/）｜原文：https://aiai.cafe/a/njw-dragos-canary-privacy-1122
本内容仅供参考，不构成投资建议。
