低配置硬件的优化方案
针对VRAM不足8GB的设备,推荐采用以下组合方案:
- Model Selection:必须使用1.3B小模型版本,通过修改
inference_1.3B.yaml
配置文件实现。相比14B模型,VRAM占用减少约75% - 分辨率调整:将输出分辨率从480p降级到360p,可通过修改配置文件的
output_resolution: [360,640]
realization - Batch processing:set up
batch_size=1
避免内存溢出,虽然会牺牲20%的处理速度
进阶优化:
1. Installationbitsandbytes
库启用8位量化:pip install bitsandbytes
2. 在推理命令中加入--precision 8
parameters
实测显示这些优化可使6GB VRAM的GTX1060显卡成功运行基础功能
This answer comes from the articleOmniAvatar: Generating Audio-Driven Full-Body Avatar VideosThe