Technische Merkmale und O&M-Nutzen von Container-Implementierungen
AIRouter verwendet das Orchestrierungsschema Docker-Compose, um die Python-Laufzeitumgebung, die MySQL-Datenbank und die Dienste zur Gesundheitsprüfung zu kapseln und eine vollständige Microservice-Architektur zu bilden. Im Vergleich zu traditionellen Bereitstellungsmethoden liegen die Vorteile vor allem in der Umgebungskonfiguration, die durch dieDockerfileHeilung von Python 3.7+, PyTorch und anderen Abhängigkeiten, um das typische "funktioniert auf meinem Rechner"-Problem zu lösen; Ressourcenmanagement, unter Verwendung derdocker-compose.ymlDefinieren Sie Quoten für Dienstressourcen (z. B. Begrenzung des API-Schlüsselmanagers auf 2 GB Arbeitsspeicher), um einen Ressourcenwettbewerb in der Produktionsumgebung zu vermeiden.
Der Bereitstellungsprozess erfordert lediglich die Ausführung vondocker-compose up -dAlle Komponenten können gestartet werden, einschließlich des Gesundheitsprüfungsdienstes an Port 8001, des Schlüsselverwaltungsdienstes an Port 8002 und des automatisch angeschlossenen MySQL-Containers. Die Betriebs- und Wartungsdaten zeigen, dass durch die Verwendung der containerisierten Bereitstellung die Zeit für die Einrichtung der Umgebung für neue Mitglieder von 4 Stunden auf 15 Minuten reduziert wird und ein Versions-Rollback durch die Verwendung von Mirror-Tags schnell durchgeführt werden kann.
Diese Antwort stammt aus dem ArtikelAIRouter: ein intelligentes Routing-Werkzeug zum Aufrufen mehrerer Modelle mit einer einheitlichen API-SchnittstelleDie
Deutsch 
简体中文 
English 
日本語 
Português do Brasil