Um método de construção em três etapas baseado em llmware:
- Criação de base de conhecimento: através de
Library.add_files()Importação de manuais de políticas, documentos de processos, etc., com suporte a vários formatos, como PDF/páginas da Web. - Seleção de modelosO cenário de perguntas e respostas recomenda o modelo BLING-3B ou dragon-yi-6b-gguf por
Prompt.load_model()(de carga etc.) carga - Integração da interfaceExemplo de reutilização
invoice_ui.pyTransforme-se em uma interface de perguntas e respostas ou faça interface com sistemas existentes por meio de API. As implantações típicas podem ser concluídas em 2 dias, com suporte à resposta simultânea a mais de 50 consultas simultâneas
Essa resposta foi extraída do artigollmware: uma estrutura de código aberto para criar rapidamente aplicativos RAG de nível empresarialO































