Für Geräte mit weniger als 12 GB Videospeicher stehen die folgenden Optimierungsoptionen zur Verfügung:
Parametrisierung
- Erzwingt die Deaktivierung des Persistenzparameters:
--num_persistent_param_in_dit 0 - Aktivieren Sie die TeaCache-Beschleunigung:
--use_teacache - Stellen Sie den Cache-Schwellenwert ein (0,2-0,5):
--teacache_thresh 0.3
Generation Strategie
- Bevorzugte Auflösung 480P
- Der Kurzvideomodus (Clip) hat einen geringeren Platzbedarf als der Streaming-Modus
- Begrenzung der Dauer einer einzelnen Generation auf höchstens 30 Sekunden
Optimierung auf Systemebene
- Schließen Sie andere GPU-lastige Programme
- ausnutzen
torch.backends.cudnn.benchmark=TrueErmöglichung der CuDNN-Optimierung - Läuft unter Linux effizienter als unter Windows 15-20%
Diese Antwort stammt aus dem ArtikelMultiTalk: ein audiogestütztes Tool zur Erstellung von Videos von Gesprächen mit mehreren PersonenDie
Darf nicht ohne Genehmigung vervielfältigt werden:KI-Produktivitätswerkzeuge " Wie kann ich die Leistung von MultiTalk auf Geräten mit geringem Grafikspeicher optimieren?
