Precisão de reconhecimento de IA Cenários de resposta
Os esquemas de validação multidimensional são recomendados para possíveis identificações incorretas pela API do Google Vision:
- Ferramentas de validação cruzada::
- Análises comparativas também foram realizadas usando o Microsoft Azure Computer Vision
- Implantação local do modelo de código aberto Detectron2 para validação secundária
- Pontos para inspeção manual::
- Observe os escores de confiança rotulados pela IA (as ferramentas profissionais mostram valores de probabilidade)
- Foco na verificação de elementos-chave, como características físicas e informações textuais
- Desconfie de expressões vagas, como "possível" e "suspeito".
- Tecnologia de interferência ativa::
- Acréscimo de ruído visual a fotografias sensíveis (intensidade recomendada 5-10%)
- Ajuste fino de características faciais usando redes adversárias generativas GAN
- Interferência no reconhecimento de IA usando técnicas de amostragem adversarial
Estabeleça um fluxo de trabalho em três estágios de "identificação-verificação-processamento" e, quando a IA identificar informações confidenciais, confirme-as manualmente antes de decidir como lidar com elas. Os usuários corporativos podem considerar a criação de um pipeline de auditoria automatizado.
Essa resposta foi extraída do artigoEles veem suas fotos: analisando informações de privacidade de fotos com base no Google VisionO
Não pode ser reproduzido sem permissão:Ferramentas de produtividade de IA " Como superar o problema de classificação incorreta da privacidade devido à identificação incorreta da IA?
