Recursos de análise sistemática de segurança da estrutura MAESTRO
O MAESTRO (Methodical Analysis and Evaluation of System Threats through Risk Observation) é uma estrutura de avaliação estruturada projetada para inteligências de IA. No Agent-Wiz, a estrutura executa a análise em seis etapas: primeiro, identificando os principais objetivos da missão do sistema; depois, mapeando os principais ativos, como inteligências, chaves de API etc.; em seguida, analisando os pontos de entrada de ataque, como interfaces externas; avaliando os controles existentes, como criptografia; e, por fim, calculando a probabilidade do possível impacto da vulnerabilidade.
Análises específicas verificarão: se o fluxo de dados passa por áreas sensíveis, se há autorização excessiva na distribuição de direitos, se o registro está completo e outros tipos de indicadores de risco. Por exemplo, o relatório de análise do fluxo de trabalho do AutoGen indicará claramente o risco de ataques man-in-the-middle que podem resultar de comunicações RPC não criptografadas.
Em comparação com o modelo STRIDE tradicional, a MAESTRO dá atenção especial aos cenários de ameaças específicas de IA, como injeção de palavras-chave, roubo de modelos e outras técnicas de ataque, e o relatório de saída contém pontuações CVSS e recomendações específicas de proteção.
Essa resposta foi extraída do artigoAgent-Wiz: analisando fluxos de trabalho e riscos de segurança da AI IntelligentsiaO
