低配置硬件的优化方案
针对VRAM不足8GB的设备,推荐采用以下组合方案:
- Modellauswahl:必须使用1.3B小模型版本,通过修改
inference_1.3B.yaml
配置文件实现。相比14B模型,VRAM占用减少约75% - 分辨率调整:将输出分辨率从480p降级到360p,可通过修改配置文件的
output_resolution: [360,640]
realisieren - Stapelverarbeitung:aufstellen
batch_size=1
避免内存溢出,虽然会牺牲20%的处理速度
进阶优化:
1. der Einbaubitsandbytes
库启用8位量化:pip install bitsandbytes
2. 在推理命令中加入--precision 8
Parameter
实测显示这些优化可使6GB VRAM的GTX1060显卡成功运行基础功能
Diese Antwort stammt aus dem ArtikelOmniAvatar: Generierung von audiogesteuerten Ganzkörper-Avatar-VideosDie