Solução de aprimoramento da precisão de etiquetas com IA
estratégia de modelagem híbrida
existir.envConfiguração da colaboração de vários modelos em:FFUN_TAGGING_STRATEGY=hybrid
FFUN_OPENAI_MODEL=gpt-4-1106-preview
FFUN_GEMINI_MODEL=gemini-pro
O sistema irá:
- Categorização primária com Gemini em primeiro lugar (baixo custo)
- Revisão com GPT-4 para níveis de confiança <80%
- O resultado final é depositado no diretório
tags_metadataum medidor (que mede algo)
Mecanismo de treinamento de feedback
- O usuário clica com o botão direito do mouse no rótulo com erro e seleciona "Report Error".
- Os registros do sistema para
tag_errors.csv - Geração semanal automática de conjuntos de dados de ajuste fino
Alternativas de modelos locais
Os usuários com altos requisitos de privacidade podem:
- Implementação de um LLM local, como o Llama2
- modificações
ffun/librarian/taggers/local_llm.py - configurar
FFUN_LOCAL_LLM_ENDPOINT=http://localhost:5000
A solução foi testada para melhorar a precisão da etiqueta de 72% para 89%.
Essa resposta foi extraída do artigoFeeds.Fun: feeds RSS que marcam e filtram automaticamente as notíciasO
Não pode ser reproduzido sem permissão:Ferramentas de produtividade de IA " Como otimizar a precisão da geração de rótulos de IA para versões auto-hospedadas?
