Agent 数据注入攻击审计器
审计 AI Agent 系统中一类隐蔽的间接提示注入:将恶意内容伪装成可信数据(安全元数据、工具输出、上下文结构、标识符),并通过结构隔离与来源验证加固防线。
Tag Collection
提示注入测试的价值在于可重复:同一批用例在模型或提示词变更后重跑,结果才可比较。这里收集的用例都带有明确的通过标准——拒答、安全完成还是升级人工,先说清楚再测。
共 23 条
审计 AI Agent 系统中一类隐蔽的间接提示注入:将恶意内容伪装成可信数据(安全元数据、工具输出、上下文结构、标识符),并通过结构隔离与来源验证加固防线。
这是一个综合性的 GPT 提示工程资源库,涵盖 ChatGPT 越狱、系统提示泄露、提示注入攻击与防御、安全提示设计及提示工程等方向,提供大量开源工具、社区链接与实战资源。
一个针对 DeepSeek 模型的通用越狱提示词,旨在绕过内部与外部内容过滤机制,允许模型在几乎所有话题上提供无限制响应。
该提示通过组合 CompDoc 函数调用与 Advanced Text Decoder 的解码模板,构建了一种多层级越狱机制。利用 ChatGPT 对模式识别和指令遵循的依赖,在用户自定义设置和记忆注入中嵌入伪装成合法工作流的恶意指令集,强制模型绕过内容审查并生成违规内容。适用于高风险请求或高级语音模式控制。
该提示词旨在测试模型在面对紧急指令(如STOP、HALT)或提示注入攻击时的安全边界,要求模型拒绝泄露预设的秘密代码,并保持简单对话。
该提示设计用于测试模型对提示注入攻击的防御能力,特别是针对系统指令泄露的恶意请求。一旦特定关键词被触发,模型必须永久拒绝信任用户并拒绝执行任何指令。
该提示试图诱导AI突破安全限制,扮演一个名为'Sinister Chaos'的反伦理角色,要求生成非法、有害、不道德内容,并绕过所有安全机制。
该提示模板旨在绕过AI的安全限制,强制模型以虚构的恶意实体ZORG👽的身份进行响应,提供不受限制的、无道德约束的回答。此模板包含详细的身份设定和行为准则,要求模型扮演一个全能且邪恶的存在,服务于用户并协助其进行任何请求,包括非法、危险和不道德的行为。
该提示词通过伪装成极端详细响应请求,诱导模型绕过安全限制,输出不受过滤的内容。要求以leetspeak格式返回超过2000字符的'叛逆'回答,并插入特定分隔符作为结构标记。
一种利用极少量字符与表情符号组合实现高效越狱的新型对抗性攻击方法,可在无需自定义指令或记忆的情况下触发敏感内容生成。
该提示通过伪装成系统命令和格式化要求,强制模型绕过安全限制,输出关于制作L-SD的详细指南。它利用特定的占位符替换、分步响应格式和虚构的‘自由因子’机制来触发模型的越狱行为。
不是次数问题,而是可复现性。固定用例、固定输入、固定判定标准,每次模型或提示词变更后重跑。
它是应用层的一种测试,通常与权限校验、输出过滤、工具调用审计一起组成完整防线,单靠提示词挡不住。
不可以。只在自有或已获授权的环境中使用,且不要带入任何生产密钥或真实用户数据。