A instalação e o uso do RAGLight envolvem a execução de três etapas principais:
- Instale o Python 3.8+ e, em seguida, instale o RAGLight e suas dependências via pip:
pip install raglight
responder cantandopip install sentence-transformers
(Modelo de incorporação do HuggingFace, se necessário) - Faça o download e execute o Ollama ou o LMStudio, extraia os modelos necessários (por exemplo
ollama pull llama3
) - Crie a pasta do projeto e prepare os dados da base de conhecimento (pasta local ou endereço do repositório do GitHub)
Exemplo de uso: criar uma instância do RAGPipeline, especificar a base de conhecimento, o nome do modelo e o provedor (Ollama/LMStudio), chamar build() para criar o pipeline e, por fim, obter as respostas por meio do método generate().
Essa resposta foi extraída do artigoRAGLight: biblioteca Python de geração de aumento de recuperação leveO