Für den lokalen Einsatz von Deep Recall müssen die folgenden Schritte durchgeführt werden:
- Vorbereitung der Umwelt::
- Python 3.8+ Umgebung
- NVIDIA-Treiber (GPU-Beschleunigung, falls erforderlich)
- Mindestens 16 GB Arbeitsspeicher (bei der Verarbeitung von 7B-Modellen)
- Abhängige Installation::
- Erstellen Sie eine isolierte virtuelle Umgebung:
python -m venv venv - Installieren Sie das Basispaket:
pip install -r requirements.txt - Entwicklungswerkzeuge:
pip install -r requirements-dev.txt
- Erstellen Sie eine isolierte virtuelle Umgebung:
- Initialisierung des Dienstes::
- Vektordatenbank: Implementierung
python scripts/init_vector_db.py - Konfigurationsdatei: nach Bedarf ändern
config/Speicher, GPU-Zuweisung und andere Parameter im Verzeichnis
- Vektordatenbank: Implementierung
- Validierungstest::
- Führen Sie Einheitstests durch:
pytest tests/ - Starten Sie den Demodienst:
python -m deep_recall.api_server
- Führen Sie Einheitstests durch:
Hinweis: Windows-Benutzer müssen Visual C++ Build Tools installieren. Die vollständige Anleitung finden Sie im Projekt CONTRIBUTING.md.
Diese Antwort stammt aus dem ArtikelDeep Recall: ein Open-Source-Tool, das einen Speicherrahmen der Unternehmensklasse für große Modelle bietetDie
Darf nicht ohne Genehmigung vervielfältigt werden:KI-Produktivitätswerkzeuge " Wie kann ich Deep Recall in meiner lokalen Umgebung installieren und konfigurieren?
