Die Installation und Nutzung von RAGLight erfolgt in drei Hauptschritten:
- Installieren Sie Python 3.8+, dann installieren Sie RAGLight und seine Abhängigkeiten über pip:
pip install raglight
im Gesang antwortenpip install sentence-transformers
(HuggingFace-Einbettungsmodell, falls erforderlich) - Laden Sie Ollama oder LMStudio herunter und starten Sie es, ziehen Sie die benötigten Modelle (z. B.
ollama pull llama3
) - Projektordner erstellen und Wissensdatenbankdaten vorbereiten (lokaler Ordner oder GitHub-Repository-Adresse)
Anwendungsbeispiel: Erstellen einer RAGPipeline-Instanz, Angabe der Wissensbasis, des Modellnamens und des Providers (Ollama/LMStudio), Aufruf von build() zum Aufbau der Pipeline und schließlich Abrufen der Antworten über die Methode generate().
Diese Antwort stammt aus dem ArtikelRAGLight: Leichtgewichtige Python-Bibliothek zur Generierung von AbruferweiterungenDie