安全验证功能详解
OpenAI Agents SDK通过Guardrails机制提供多层级的安全防护：
1. 输入验证
- 内容过滤：阻止不当或敏感请求
- 意图识别：如检测是否试图让AI完成作业
- 格式检查：确保输入符合预期结构
2. 输出控制
- 结果审查：过滤不当回应
- 类型约束：强制输出指定数据结构
- 逻辑校验：验证结果的合理性
典型实现示例
以下是数学作业拦截的实现：
@input_guardrail
async def math_guardrail(ctx, agent, input):
result = await Runner.run(guardrail_agent, input)
return GuardrailFunctionOutput(
tripwire_triggered=result.final_output.is_math_homework,
output_info=result.final_output.reasoning
)
进阶应用
开发者可以组合多个Guardrails功能，实现：合规审查、专业领域限定、敏感信息过滤等复杂安全策略。系统会在验证失败时自动终止流程或返回预设的警示信息。
Essa resposta foi extraída do artigoOpenAI Agents SDK: uma estrutura Python para criar fluxos de trabalho colaborativos de inteligência múltiplaO
Não pode ser reproduzido sem permissão:Ferramentas de produtividade de IA " OpenAI Agents SDK的安全验证(Guardrails)功能具体能实现哪些保护？
Português do Brasil 
简体中文 
English 
日本語 
Deutsch