Para instalar e configurar o RAGLight, proceda da seguinte forma:
- Instalação do Python e das dependênciasVerifique se o Python 3.8 ou posterior está instalado em seu sistema e, em seguida, execute o comando
pip install raglight
O modelo de incorporação do HuggingFace está disponível no site do HuggingFace. Para usar o modelo de incorporação do HuggingFace, você também precisa instalar o pacotesentence-transformers
. - Instalação do Ollama ou do LMStudioDownload e instalação do Ollama ou do LMStudio e, em seguida, extraia os modelos necessários (por exemplo
ollama pull llama3
). - Ambiente de configuraçãoCrie a pasta do projeto e prepare os dados da base de conhecimento (pasta local ou URL do repositório do GitHub).
- Inicialização do pipeline do RAG: através de
RAGPipeline
Especifique a base de conhecimento, o nome do modelo (por exemplollama3
) e parâmetros de pesquisa (comok=5
).
Essa resposta foi extraída do artigoRAGLight: biblioteca Python de geração de aumento de recuperação leveO