Vorbereitung auf die Entsendung
Sie müssen sicherstellen, dass der Gastgeber die Anforderungen erfüllt:
- NVIDIA-Grafikkartentreiber Version ≥ 535
- Docker-Engine 24.0+
- Mindestens 16 GB Grafikspeicher und 64 GB RAM
Standardisierter Einsatzprozess
- Abrufen der offiziellen Konfigurationsdatei docker-compose.yml
- vollziehen
docker-compose up --build -dContainer-Cluster starten (mit WebUI, Vektordatenbank, Modelldiensten) - Besuchen Sie http://localhost:8843进入控制台
Validierungspunkte für den Einsatz
- passieren (eine Rechnung oder Inspektion etc.)
docker logs ultrarag-webEchtzeit-Protokolle anzeigen - Überprüfen Sie den Status der einzelnen Komponenten im Bereich Systemzustand der WebUI
- Führen Sie den vorgefertigten Smoke-Testfall aus (mit 5 Standardabfragen)
Empfehlungen zur Optimierung auf Produktionsebene
Empfehlungen für den Einsatz auf Unternehmensebene:
1) Ändern Sie den Standard-Port 8843, um die Sicherheit zu erhöhen
2) Einhängen des Persistenzvolumens zum Speichern der Modelldaten (benötigt ca. 50 GB Speicherplatz)
3) Konfigurieren Sie Nginx Reverse Proxy für HTTPS-Verschlüsselung
Diese Antwort stammt aus dem ArtikelUltraRAG: Eine RAG-Systemlösung aus einer Hand zur Vereinfachung der Datenerstellung und ModellfeinabstimmungDie
Darf nicht ohne Genehmigung vervielfältigt werden:KI-Produktivitätswerkzeuge " Wie lassen sich UltraRAG-Systeme schnell über Docker bereitstellen?
