LlamaFarm bietet intuitive Kommandozeilen-Tools zum Betrieb des RAG-Systems, das aus zwei Schlüsselprozessen besteht:
1. die Dateneingabe (Ingest)::
- Bereiten Sie den Ordner vor, der die Dokumente enthält (z. B. Muster/)
- Führen Sie den Befehl aus:
uv run python rag/cli.py ingest samples/ --extractors keywords entities --strategy research
- Dieser Befehl erkennt automatisch das Format des Dokuments → extrahiert Schlüsselwörter/Einträge → unterteilt nach der RESEARCH-Strategie → speichert in der Standard-Vektor-Datenbank
2. das Abrufen von Wissen (Suche)::
- Beispiel für einen Abfragebefehl:
uv run python rag/cli.py search "气候变暖的主要证据" --top-k 5 --rerank
- Parameter Beschreibung:
- -top-k 5: liefert die 5 wichtigsten Fragmente
- -rerank: Die Neuordnung der Ergebnisse verbessert die Genauigkeit
- Das System ruft zunächst die Vektorbibliothek ab und optimiert dann die Ergebnisse, indem es das Modell neu anordnet
Der gesamte Prozess erfordert keine Kodierung und kann durch Anpassung der Richtlinienparameter an verschiedene Dokumenttypen angepasst werden.
Diese Antwort stammt aus dem ArtikelLlamaFarm: ein Entwicklungsrahmen für den schnellen lokalen Einsatz von KI-Modellen und -AnwendungenDie