Die folgenden Schritte sind für die lokale Bereitstellung von ARC-Hunyuan-Video-7B erforderlich:
- Klon-LagerKlonen Sie das Projekt-Repository auf GitHub über git lfs und stellen Sie sicher, dass es große Dateien unterstützt.
- Installation von AbhängigkeitenPython 3.8+ und PyTorch 2.1.0+ (mit CUDA 12.1-Unterstützung) erforderlich und läuft
pip install -r requirements.txtInstallieren Sie die erforderlichen Bibliotheken. - Download ModellgewichteLaden Sie die Datei mit den Modellgewichten von Hugging Face herunter, entweder manuell, indem Sie sie in einem bestimmten Verzeichnis ablegen, oder automatisch durch den Code.
- Optionale BeschleunigungUm vLLM für eine schnellere Inferenz zu installieren, führen Sie den Befehl
pip install vllm. - Überprüfung der UmgebungAusführen des Testskripts
test_setup.pyÜberprüfen Sie, ob die Umgebung richtig konfiguriert ist.
Hinweis: Es wird ein NVIDIA H20 oder höherer Grafikprozessor empfohlen, und stellen Sie sicher, dass die Videoauflösung moderat ist, um ein Gleichgewicht zwischen Effekt und Geschwindigkeit zu erreichen.
Diese Antwort stammt aus dem ArtikelARC-Hunyuan-Video-7B: Ein intelligentes Modell zum Verstehen kurzer VideoinhalteDie
Darf nicht ohne Genehmigung vervielfältigt werden:KI-Produktivitätswerkzeuge " Wie kann ARC-Hunyuan-Video-7B lokal eingesetzt werden?
Deutsch 
简体中文 
English 
日本語 
Português do Brasil