Análise de risco de segurança
Modelos, dados e interações em ambientes de borda podem ser expostos a ameaças à segurança.
Medidas de proteção integradas
- proteção criptográfica
1) criptografia de arquivo modelo; 2) criptografia TLS de transmissão; 3) armazenamento hierárquico de dados - controle de acesso
1) Configuração do parâmetro API_KEY; 2) Lista de permissões de IP; 3) Limitação de taxa - aprimoramento da segurança
1) isolamento de memória Wasm; 2) sandboxing de tempo de execução do modelo; 3) princípio do privilégio mínimo - Trilha de auditoria
começar a usar--log-prompts --log-statOperações de registro
Recomendações de segurança aprimorada
1) atualizar regularmente as assinaturas dos modelos; 2) implementar marcas d'água nos modelos; 3) implantar a detecção de anomalias; e 4) estabelecer um mecanismo de eliminação de emergência.
Essa resposta foi extraída do artigoLlamaEdge: a maneira mais rápida de executar e ajustar o LLM localmente!O
Não pode ser reproduzido sem permissão:Ferramentas de produtividade de IA " Como evitar o vazamento de dados LLM privados em ambientes de computação de borda?
