testing-llm-guardrails

测试模型输出在运行时验证方面的表现，包括模式一致性、PII泄露、内容审核、拒绝行为、工具调用安全性，以及旨在突破这些防护的对抗性测试套件：直接提示注入、越狱攻击，以及通过检索文档、工具结果和用户内容进行的间接注入。适用于以下场景：当LLM功能面向真实用户发布时，当模型能够调用工具或读取不可信内容时，当AI功能需要安全风格的测试套件时，或当被问及聊天机器人或智能体是否可能被操控时。

模型生成摘要（rules/v1 · 2026-11-14 23:01）：测试模型输出在运行时验证方面的表现，包括模式一致性、PII泄露、内容审核、拒绝行为、工具调用安全性，以及旨在突破这些防护的对抗性测试套件：直接提示注入、越狱攻击，以及通过检索文档、工具结果和用户内容进行的间接注入
这是模型对公开材料的总结，不是官方声明，请以原链内容为准。

存档时间线

版本	存档时间	内容哈希	内容
v1	2026-11-14 23:00	0f10b011	可取

版本索引永久保留；内容副本只保留最新 1 份，更早版本仅留索引与哈希（存档时间线的证据链不会因此断裂）。

下载存档内容副本

纠错与举报（发现条目失效、署名有误或涉及侵权？）

提交举报 / 纠错

侵权举报经核验成立后，我们会即时下线该条目并删除已存的内容副本。