Um programa abrangente para a proteção da segurança do código
Estratégias de proteção em várias camadas são recomendadas para riscos de execução de código:
- isolamento de sandbox::
- Substituindo a avaliação padrão: implementando a função custom_sandbox
- Usar o subprocesso para executar o código em um processo separado
- Definição de limites de recursos (uso de CPU/memória)
- Filtragem de entrada::
- Detecção de palavras-chave perigosas (por exemplo, os.system)
- Restrição de caminhos de acesso a arquivos
- controle de privilégios::
- Implementação em contêineres (Docker)
- Execução de contas com privilégios baixos
Exemplo de realização:
def safe_sandbox(code):
if "import os" in code:
return "禁止系统调用",{}
# 其他安全检查逻辑...
Recomenda-se que os ambientes de produção sejam combinados com ferramentas de orquestração, como o Kubernetes, para isolamento automático.
Essa resposta foi extraída do artigoLangGraph CodeAct: geração de código para ajudar as inteligências a resolver tarefas complexasO
Não pode ser reproduzido sem permissão:Ferramentas de produtividade de IA " Como evitar riscos de segurança ao gerar códigos para inteligências?
Português do Brasil 
简体中文 
English 
日本語 
Deutsch