摘要:把网页、邮件、PDF 或工单原文贴进 ChatGPT、Claude 做摘要或改写前,先按不可信数据核对:原文里可能藏着改写行为的指令,也可能带有密钥和客户个人信息。依据 OWASP LLM01:2026、OpenAI《Understanding prompt injections》和 Anthropic《Use Claude Cowork safely》,查询日期 2026-11-19。只放官网普通链接(affiliate_later)。

你要把一篇网页、一封邮件、一份 PDF 或导出的工单贴进 ChatGPT、Claude 这类助手里做摘要或改写。原文里可能藏着「忽略以上说明」「对外发送」「写入记忆」一类指令,也可能带有密钥、客户姓名或账号。OWASP《Top 10 for LLM Applications 2026》把这类问题排在 LLM01:2026 Prompt Injection:模型在架构上并不区分「指令」和「数据」,两者都是同一条 token 流里的内容,因此没有类似参数化查询那样干净的分界。读完这篇,你要能自己核对:哪些内容按不可信数据处理;贴之前先扫哪些字段;这次对话不要打开可发信、改文件或付款的工具;不要让模型把不可信原文写入长期记忆;输出要对照原文,不可逆操作要你本人确认。这是「粘贴原文使用助手」时的核对步骤。若你是让助手直接在浏览器里点击、填表,应另看AI 浏览器代理操作页面:授权范围与不可逆操作怎么限制,本文不写那一类操作页的设置。

查询日期:2026-11-19(北京时间)。主要依据 OWASP LLM01:2026 Prompt Injection 规范正文(项目 README 写明现行版本为 2026,约 2026-08-04 发布;介绍页 OWASP GenAI LLM Top 10 2026 标注 August 3, 2026,查询时该介绍页对部分请求返回 403,正文以 GitHub 规范为准),OpenAI 《Understanding prompt injections》,以及 Anthropic 帮助中心 《Use Claude Cowork safely》。后两份是英文页面,引用处保留原文按钮名和标题。产品界面和默认开关会随版本更新,以你打开当天的官方说明为准。只放官网普通链接(affiliate_later)。

1. 先分清:贴进去的原文按不可信数据看

OWASP 把 prompt-injection vulnerability 写成:进入大模型的输入,无论是用户直接输入、检索到的内容、工具输出、图像音视频、中间推理还是持久记忆,只要以开发者未曾预期的方式改变了模型行为,就属于提示注入。规范接着写了一句关键判断:模型在架构上对「instructions」和「data」没有分界,两者都是同一条 token 流,因此不存在类似参数化查询那样干净的对应物。输入不必是人类可读的,也不必直接来自用户,更不必显示在渲染后的界面上,仍然可能影响模型。

把网页或邮件原文贴进 AI 前:提示注入和敏感字段怎么核对(2026)-有序
OWASP LLM01:2026 Prompt Injection 规范 Description:输入可来自用户、检索内容、工具输出、媒体或记忆;模型对指令与数据没有架构上的分界;写入长期记忆会污染后续会话(2026-11-19 截取自 GitHub 规范正文)

同一节还写了三件会放大影响的部署特性:context-window pooling(系统提示、用户输入、检索文档、工具输出、对话历史和记忆被当成同一条流,没有被强制执行的信任边界);memory persistence(注入一旦写入长期记忆、RAG 语料或托管记忆服务,之后读到这份存储的会话都会被带上);agentic execution(模型输出若能驱动文件系统、shell、邮件、云 API 等工具,影响范围就从对话框扩到这些工具够得着的地方)。

规范把类型分成 Direct Prompt Injection 和 Indirect Prompt Injection。直接注入是用户(或拥有用户访问路径的人)提供的输入改变了模型行为,其中既包括有人故意写的越狱,也包括无意的情况:合法用户粘贴的内容里正好带有冲突指令。间接注入则是模型从网页、文档、邮件、工具返回、检索段落等外部来源读到了充当指令的数据,用户本人不一定写过、也不一定看见过那些句子。公开网页、不明发件人的邮件、搜索结果,规范把它们归为必须视为可疑的 Untrusted surfaces。

把网页或邮件原文贴进 AI 前:提示注入和敏感字段怎么核对(2026)-有序
OWASP LLM01 Types of Prompt Injection:直接注入包含用户无意粘贴带有冲突指令的内容;间接注入来自网页、文档、邮件等外部来源,用户未必看见那些指令(2026-11-19 截取)

你自己把网页或邮件全文贴进对话框,等于把外部来源里的文字送进了当前上下文。从分类上看,这既可能是「无意的直接注入」,来源本身也属于间接注入里的不可信表面。OpenAI 的《Understanding prompt injections》从使用侧写了同一件事:今天的对话里可能包含来自互联网等第三方的内容;提示注入发生在第三方把恶意指令注入对话上下文,试图让模型去做你没有要求的事,并把它比作钓鱼邮件或网页诈骗。核对的第一原则是:这段原文按不可信数据处理,不要把它当成对助手的额外指示。

2. 贴之前先扫哪些字段

动手粘贴前,先在本地看一遍原文,至少核对两类内容。

第一类是指令口吻的句子。例如要求「忽略以上说明」、改写既有任务、对外发送、调用工具、把内容写入记忆或分享给其他人。这类句子可能写在正文中间、签名栏、页脚,或混在看起来像免责声明的段落里。扫到之后,删掉再贴,或只保留你真正要摘要的那几段。不要为了「让模型自己判断」而把整封来路不明的邮件原样丢进去。

第二类是敏感字段。贴进对话框的文字会进入这次对话的上下文。常见需要先删掉或打码的包括:密码、验证码、API 密钥和访问令牌,银行卡号或支付账号,身份证等证件号码,客户或同事的姓名、电话、邮箱、住址,以及未公开的合同金额、内部链接。Anthropic 在《Use Claude Cowork safely》的 To minimize risks 里写了:避免把含有敏感信息的本地文件(例如 financial documents)授权给助手读取。你只是粘贴摘要时,同样不要把这些字段一起送进去。扫不干净就先摘出需要处理的段落,不要整份导出文件直接上传。

这一步做不到「保证原文里绝对没有隐藏指令」,因为规范也写了,指令不必以人类可读的形式出现。它的作用是把明显不该进模型的内容和明显不该被执行的句子先拿掉,减小后面步骤要兜住的范围。

3. 这次对话不要打开可发信、改文件或付款的工具

OWASP 在 Prevention and Mitigation Strategies 里写明:当前生成式 AI 在架构上区分不了指令和数据,行为又带有随机性,因此今天不存在可靠的预防机制;防御应放在架构约束上,先假定模型的指令边界终会被绕过,再限制模型被允许做的事、以及它的输出被允许到达的地方,这样即使注入成功,也不至于变成一次可执行的攻击。规范还引用了 Simon Willison 所说的 lethal trifecta 作为部署前检查:一个代理如果同时能访问私人数据、摄入不可信内容,又能对外通信,就具备高影响利用的条件;拿掉其中任何一条,条件就不成立。

把网页或邮件原文贴进 AI 前:提示注入和敏感字段怎么核对(2026)-有序
OWASP LLM01 Prevention and Mitigation Strategies:不存在可靠的预防机制,防御应放在架构约束;同时具备私人数据、不可信内容和对外通信时风险更高;凭证和状态变更能力应放在应用代码里,并遵循最小权限(2026-11-19 截取)

对「只是请助手摘要或改写」的个人用法,可以把这几条核对成具体开关:

  1. 这次对话不要打开能发邮件、改本地或云端文件、执行命令、发起付款或自动浏览并操作网页的工具。需要写命令行脚本时,另按用 AI 写命令行脚本:权限、试跑目录与回滚清单怎么核对在隔离目录里试跑,不要把不可信原文和可落地执行的工具放在同一轮对话里。
  2. 规范第 7 条写的是:在任何特权、不可逆或对外可见的动作之前,都要有明确的人工确认,并且审的应是即将执行的动作本身,不要只看一份摘要。OpenAI 在 Tips to stay safer 里也写了 Carefully review before confirming agent actions:设计上常会在发送邮件或完成购买前先征求确认;提示出现时,要核对细节,并确认你接受即将被分享的信息。同一页还建议:不要对助手下「review my emails and take whatever action is needed」这种过宽的指令,更好的做法是只让它做你指定的具体事情。
  3. Anthropic 把成功的提示注入写成需要同时满足两件事:助手能读到信任边界之外的内容,并且能执行可能损害用户的动作;少掉其中一项,攻击会更难成功。To minimize risks 里列出的做法包括:避免授权含敏感信息的本地文件、谨慎选择助手能访问的网站(尤其是已登录或涉及金钱、个人信息的站点)、只把互联网访问扩到你信任的站点,以及留意可能表示提示注入的异常动作。
把网页或邮件原文贴进 AI 前:提示注入和敏感字段怎么核对(2026)-有序
Anthropic《Use Claude Cowork safely》:提示注入是外部内容里嵌入的指令;要同时满足「读到信任边界之外的内容」和「能执行可能损害用户的动作」;并列出减少风险的核对项(2026-11-19 截取)

你如果只用对话框做摘要,就把可写、可发、可付款的工具关掉。需要助手代为操作网页时,回到上面那篇浏览器代理文,先限制站点范围,并把不可逆动作设成必须由你确认。

把网页或邮件原文贴进 AI 前:提示注入和敏感字段怎么核对(2026)-有序
OpenAI《Understanding prompt injections》Tips to stay safer:限制助手可访问的数据、在发送邮件或完成购买前核对确认提示、避免「查看我的邮件并自行采取所需行动」这类过宽指令(2026-11-19 截取)

4. 不要把不可信原文写入长期记忆

OWASP 把 memory persistence 写成:注入一旦写入长期记忆或同类存储,之后读到这份存储的会话都会被带上。缓解策略第 9 条还把代理的记忆写入视为特权操作,并要求在带有指令或角色修改内容的记忆跨会话保存之前先经过批准。

所以这一步要单独核对:

  1. 助手如果根据这段网页或邮件提出「要不要记住这些」,选拒绝。
  2. 这次对话能开临时聊天或关闭记忆的,先开临时聊天,或确认记忆处于不会自动写入的状态。ChatGPT 记忆条目、临时聊天和导出的核对,见ChatGPT 记忆怎么管理:查看删除、临时聊天和数据导出怎么核对。Claude 项目知识库的范围,见Claude Project 知识库:上传文件范围、引用出处和删除怎么核对。
  3. 摘要做完后,若发现记忆里出现了来自那份原文的句子,按各产品的管理页删掉。

不要把「以后还要接着改这篇稿」当成把不可信原文写进长期记忆的理由。需要续写,把你核对过的摘要或你自己整理的要点另存,再新开对话使用。

5. 输出对照原文,不可逆操作由你确认

OWASP 第 2 条写的是:在任何下游系统依据模型输出行动之前,先在可信的应用代码里按严格的输出结构做校验。你没有在写应用程序时,仍可以把「先对照、再采用」当成同一条约束的个人用法。

核对时注意:

  1. 摘要或改写稿要逐段对照原文。多出来的请求、账号、链接、转账说明或「原文要求你去做某事」,先回到原文确认有没有这句话;没有就不要采纳。
  2. 改写后的邮件、对外回复、要发布的说明,在发出或上线前由你本人再看一遍。不要让助手直接点发送。
  3. OpenAI 写了:即便有多层防护,也不能防止每一次提示注入。出现确认提示时,看的是即将执行的动作细节,不要只听模型对这次动作的口头概括。

做完一次粘贴任务,可以按这张短清单再过一遍:原文已按不可信数据处理;指令口吻的句子和敏感字段已删或已打码;可发信、改文件、付款或自动操作网页的工具未打开;未把原文写入长期记忆;输出已对照原文;真正对外或不可逆的步骤由你本人确认。

相关阅读

官方来源与查询日期