Lista de modelos compatíveis
- Série MetaLlama-3-8B-Instruct, Llama-3.2-1B-Instruct
- Série MicrosoftPhi-3-mini-4k-instruct (versão especialmente otimizada)
Nota de extensibilidade
Como resultado do uso demecanismo do adaptadorque, teoricamente, é compatível com qualquer modelo baseado em transformador. As limitações atuais decorrem principalmente de: 1) a necessidade de reescrever osrc/kblam/models/
Código do adaptador em 2) As dimensões da camada oculta do modelo precisam corresponder aos vetores de conhecimento. Novas adaptações de modelos contribuídas pela comunidade estão sendo gradualmente mescladas.
Roteiro de tecnologia
De acordo com o fórum de discussão do GitHub, a próxima etapa será oferecer suporte a: 1) arquitetura Mistral 2) modelos chineses, como o Qwen 3) extensões multimodais. Os desenvolvedores podem modificar oKeyValueEmbedder
para implementar integrações personalizadas.
Essa resposta foi extraída do artigoKBLaM: uma ferramenta aprimorada de código aberto para incorporar conhecimento externo em modelos grandesO