Soluções de adaptação de hardware
- CPU模式:将device参数设为”cpu”,适合没有GPU的环境
- Otimização da memória de vídeoAdicionar ao carregar o modelolow_cpu_mem_usage=Trueparâmetros
- 量化加载:使用torch.quantization对模型进行8bit量化
软件优化方案
- 限制生成时长(默认约30秒)
- 预处理阶段关闭不需要的特性(如不启用声音克隆)
- adoçãostreaming生成模式分片段处理
alternativa
可使用Google Colab等云平台运行,选择T4 GPU实例即可满足需求。
Essa resposta foi extraída do artigoSongGen: um transformador autorregressivo de estágio único para geração automática de músicasO