Alternative Bereitstellungsoptionen in Offline-Umgebungen
Die folgenden Methoden können verwendet werden, wenn Sie keinen Zugang zu Hugging Face haben:
- Modell vor dem Herunterladen:
Laden Sie das vollständige Modell mit huggingface-cli auf ein Gerät mit Netzwerk herunter:
huggingface-cli download TheAhmadOsman/FLUX.1-Kontext-dev –local-dir ./models
Verpackung und Portierung des gesamten Modellkatalogs auf das Zielgerät - Dockerisierte Bereitstellung:
Verwenden Sie ein vorgefertigtes Bild, das das Modell bereits enthält (Sie müssen es selbst erstellen):
FROM python:3.12
COPY models /app/models
Setzen von Umgebungsvariablen:
HF_HUB_OFFLINE=1 - Lokale Modellregistrierung:
Ändern Sie den Modellladepfad im Code:
model = AutoModel.from_pretrained(‘./local/models’) - Programm für Unternehmensagenturen:
Wenn Sie es in einem isolierten Netzwerk verwenden müssen, können Sie einen lokalen HF-Spiegelserver einrichten:
Bereitstellung von Text Generation WebUI als Modell-Staging-Site
Wichtiger Hinweis: Es ist notwendig, die Integritätsprüfung der Modelldatei sicherzustellen, und der SHAd256-Wert sollte bei der Offline-Verwendung mit dem offiziell veröffentlichten Wert übereinstimmen.
Diese Antwort stammt aus dem Artikel4o-ghibli-at-home: lokal laufendes Bildkonvertierungsprogramm im Ghibli-Stil》
Darf nicht ohne Genehmigung vervielfältigt werden:KI-Produktivitätswerkzeuge » Wie kann man 4o-ghibli-at-home offline ohne Hugging Face-Konto einsetzen?
