Programa de proteção de segurança
Usando os recursos do SDKGrades de proteçãoO mecanismo estabelece três níveis de proteção:
- camada de pré-triagem::
- fazer uso de
@input_guardrailO Decorator cria a função de preflight - Por meio de inteligências dedicadas (por exemplo
guardrail_agent) Análise da sensibilidade de entrada - definir
PydanticFormato de saída de verificação da especificação do modelo
- fazer uso de
- camada de controle de processo::
- configurar
tripwire_triggeredInterrupção de acionamento de limiar - Devoluções para operações de alto risco (por exemplo, cálculos matemáticos)
403código de status
- configurar
- nível de auditoria ex post facto::
- combinando
TracingRegistros de funcionalidade Registros completos de interação - Marcação de eventos de guardrail acionados para armazenamento
- combinando
Exemplo de implementaçãoAo criar um protetor de teste de lição de casa de matemática, é recomendável definir oreasoningdescreve o motivo da interceptação, tanto para bloquear a solicitação quanto para aprimorar a experiência do usuário.
Essa resposta foi extraída do artigoOpenAI Agents SDK: uma estrutura Python para criar fluxos de trabalho colaborativos de inteligência múltiplaO
Não pode ser reproduzido sem permissão:Ferramentas de produtividade de IA " Como abordar questões de segurança quando as inteligências lidam com solicitações confidenciais?
Português do Brasil 
简体中文 
English 
日本語 
Deutsch