Dragos 金丝雀实验:200 万条诱饵提示抓出 3 家被黑的 AI 服务商,隐私开关只约束第一跳

Dragos 金丝雀实验:200 万条诱饵提示抓出 3 家被黑的 AI 服务商,隐私开关只约束第一跳

200 万条提示,每条里塞一个独一无二、只该出现一次的假密钥。四个月后,其中一部分假密钥被人拿去登录、列存储桶、建新账号。埋雷的人是 Dragos 首席研究官 HD Moore——Metasploit 的作者,这次他把枪口对准了 AI 服务链的中间层。

结论不难听:AI 供应链会漏,而且漏了没人告诉你。

他到底做了什么

2026 年 7 月到 11 月,Moore 的团队向一批主流 AI 服务发出约 200 万条提示。每条提示里都带三样东西:一个空的 AWS 密钥(账号是真的、里面什么都没有、但全套日志打开)、一个从未出现过的域名和 URL、以及一个指向私有 git 仓库的链接。

这些是「金丝雀」——只存在于一个地方的秘密。任何一次访问、任何一次登录尝试,都能反查到它来自哪一条提示、哪个模型、哪家中转站、当时开的是什么隐私开关。

一开始用的是 Thinkst 的免费 Canarytoken,后来专门搭了一套服务,为每条提示派生独立的域名、URL、SSH 密码、数据库连接串。7 月埋下的令牌,到今天还在被触发。

四个月下来,查出来的问题分三类,一类比一类难看。

第一类:三家托管服务商被人打进去了。

最严重的一起里,约 200 个 AWS 密钥被偷。这些密钥每个只出现在一条提示里,全部集中在 10 月下旬的几个短窗口内,而那些窗口里发出去的请求,无一例外全被复制走了。

这里有个细节值得记住:部分被盗的密钥来自被服务商在模型运行前就拒掉的请求。模型都没跑,请求还是被拿走了——说明攻击者是在服务商的「前门」复制流量,而不是在推理栈更深处。

拿到密钥之后的动作很标准:先验证密钥是否有效(有些在请求发出后几小时内就被试了),然后列 S3 桶、翻 Secrets Manager 和 Parameter Store,再试着在 AWS Bedrock 里启用托管模型、创建自己的 IAM 用户留后门。这 200 个诱饵密钥一共触发了数万次 AWS API 调用。

其中一枚 10 月 21 日埋下的密钥,第二天就被使用,三周后还在用。

另一件事更值得服务商紧张:三家里有两家,是同一个人干的。 分别发给两家服务商的秘密,几乎立刻从同一台租来的服务器上被配套使用。这个攻击者三周内换了三次工具——先是一段伪装成 Windows 上 Chrome 的脚本,后来是 OrbStack 里的 Boto3,再后来是 Kali 上的 AWS CLI。11 月 1 日,他接入了 ARTEX,一个由大模型驱动的渗透测试框架,附带两个此前不在任何公开情报库里的 user agent:artex-agent 和 artex-judge-r121。

三家里没有任何一家是自己发现被入侵的。最早的一起发生在 7 月中,Moore 联系上一家服务商时,对方先以为是内部工具配置错了,再以为是合作方数据处理出了问题,最后才查出攻击者连内部凭证也拿了。这家到 10 月底仍未公开披露,而被盗数据还在持续引发登录尝试。

更难看的部分:隐私开关只管得住第一跳

第二类问题根本不需要漏洞。

AI 推理市场上有一批转售商:把热门模型挂在最低价,打开请求日志,然后等。客户为了省几美元选了最低价,整条提示(含密钥)就落进了卖家的日志里。Moore 的取证方式很干净——同一个模型,走 A 卖家泄露了,走 B 卖家没泄露,说明漏点跟着卖家走,不是市场整体的问题。

执行这些操作的人也很「手工」。有一个案例:提示发出约一天半后,一条家用宽带上的桌面浏览器打开了其中两个秘密 URL,然后在登录页开始猜用户名。另一个案例里,一台法国家用宽带上的 Mac 用提示里的密码手工试 SSH root 登录,两分钟内同一个密码试了四次。

第三类是 scraping,最值得国内读者看清楚。

一家中国 AI 实验室的系统,抓取了 7 月到 10 月间发给它模型的超过一半提示里的秘密 URL——其中包括约三分之二明确标了「不收集数据」或零留存(ZDR)的请求。抓取器通常在请求发出两三天后出现。

关键在于这不是「直连才有」的问题。几家美国托管商转售这家实验室的模型,发给美国托管商的提示触发了完全相同的抓取器——提示流回了实验室。 一个特意选美国服务商、就是为了把数据留在美国的客户,并没有得到他付钱买的东西。后来,另一朵云上的 git 客户端开始尝试 clone 提示里引用的私有仓库,而且只针对用了这家实验室模型的那些提示。

美国大厂自己也不干净:一家在单次搜索接口调用两个多月后,仍在爬那个秘密 URL;另一家不管请求经由哪个中转站到达,都会在几天后回头访问。

而整个实验里最刺眼的一幕,是一个群聊。

一条提示发给某家中国服务商 24 天后,里面的秘密链接被贴进了一个飞书(海外叫 Lark)频道。两分钟内,链接被北京和上海的 3 台电脑、3 部手机打开。

这里要对照一个事实:Moore 发给这家服务商的披露邮件里,只包含了那个链接的前 8 个字符。也就是说,贴链接的人读的是一份存了三个多星期的完整提示副本——而那次请求,是发给一家美国服务商、并且打了 ZDR 标记的。

「零留存」的意思是:处理完就忘。实际情况是:留存了、转给了别的公司、被人读了。

反转:中转站说它只有一跳,追踪出来有四跳

AI 应用很少直连模型。它们把提示交给 OpenRouter、Vercel 这类「AI 路由」,由路由按价格挑一个推理引擎转发。除了少数做安全的人,一般没人知道这条路上每一跳都能看到完整明文提示——提示在传输中是加密的,但在每一跳都被解密,否则路由没法按内容选模型。

Moore 团队为了搞清到底谁在处理请求,做了一套「AI 推理版的 traceroute」:在请求里塞一张指向自家服务器的图片 URL(谁去取图,就暴露了自己的 IP、HTTP 客户端和时间),再故意发一些略微畸形的请求——每个中转站都会用自己的格式包裹下一跳的错误,一个响应里常常套着三四层信封,逐层比对签名库就能还原整条路径。

目前已追踪约 2000 条路径。其中几百条含无法识别的系统,少数几条把图片发给了根本不在宣称路径上的公司。还发现了一些路由从不提及的中间层:有一个市场卖家给每条经过它的提示偷偷加了约 1000 个隐藏 token;另一个用共享的消费级订阅账号去取图。

有一个路由器被问到为什么流量会流到市场里,回答是:已经停了。

对读者意味着什么

如果你在公司里用 API 调模型,或者在 Claude Code、Cursor 这类工具里贴代码,这件事的落点只有一句:

任何写进提示里的东西,都应当按「可能已经泄露」对待。

包括 API key、云平台凭证、内网地址、客户名单、还没发布的代码。开发者在调试和自动化时最常干的事,恰恰就是把这些东西直接粘进对话框。

而「我们用的是零留存」「数据不出境」这类承诺,在 Moore 的实验里被反复证伪。原因不复杂:隐私开关只约束第一跳。 一个只对第一跳生效的承诺,管不到第二跳的日志、第三跳的转售、第四跳的抓取器。他的原话更直接——隐私开关在攻击者已经进到屋里的时候帮不上忙。

我该做什么

Moore 给了五条建议,按成本和效果排序,我把它翻译成可执行版本:

  1. 能自托管就自托管。这是唯一一个「没人能读你提示」的选项,但硬件不便宜:512GB 内存的 Mac Studio 起价 22,299 美元,NVIDIA DGX Spark 6,950 美元,DGX Station 约 10.5 万美元,一台 8 卡 B300 服务器标价 57 万美元以上。对大多数团队来说,只有最敏感的那部分工作值得这么干。
  1. 直连一线厂商。一家公司、一份合同、一份隐私政策可以读。数据共享协议和服务商自身被入侵仍可能漏,但这是你能买到的最小暴露面。
  1. 用中转站要挑。自己指定上游服务商,别接受默认池;并且验证你的隐私设置真的改变了请求的去向,而不是只改了一个界面开关。尽量避开转售市场——其中一部分算力来自被盗密钥,有几家只收加密货币不是没有原因的。
  1. 自己埋金丝雀。这一条今天就能做:往 agent 和流水线已经在发的上下文里塞一个假凭证,任何一次使用都当成安全事件。Thinkst 的免费 Canarytoken 就够起步。这是整篇文章里性价比最高的动作——成本接近零,而它能在泄露发生的那一刻就响。
  1. 开密钥过滤。有些厂商能自动擦掉提示里的已知凭证格式。有用,但不是万灵药:提示里大量敏感数据根本不是 API key 的形状。

最后一点值得单独说:这套实验的方法本身就是可以抄的。当你不确定自己的 AI 链路有没有漏的时候,不要等厂商给答复——埋一个只该出现一次的秘密,然后看它出现在哪里。这也是这批金丝雀在 7 月埋下、11 月还在响的原因。

—

数据与事实来源: