Explicação da solução de otimização de pouca memória
O DiffSynth-Engine oferece três maneiras de reduzir os requisitos de memória de vídeo:
- Tecnologia de descarregamento da CPUConfiguração no código do modelo FLUX
offload_mode="sequential_cpu_offload"Pode reduzir a necessidade de 23 GB de memória de vídeo para 4 GB - Seleção quantitativa de modelosPrecisão de quantificação compatível, como FP8/INT8, por exemplo, q8_0 (7-12GB) ou q4_k_s (inferior)
- parametrizaçãoReduzir a resolução (largura/altura), reduzir num_inference_steps, etc.
Exemplos de operações específicasModificar os parâmetros de inicialização do pipeline FLUX para que tenham efeito:
pipe = FluxImagePipeline.from_pretrained(config, offload_mode="sequential_cpu_offload", quant="q4_k_s").eval()
Observação: O modo de pouca memória prolongará o tempo de geração do 20-50%. Recomenda-se equilibrar a velocidade e a qualidade de acordo com a tarefa.
Essa resposta foi extraída do artigoDiffSynth-Engine: Mecanismo de código aberto para baixa implantação existente do FLUX, Wan 2.1O
Não pode ser reproduzido sem permissão:Ferramentas de produtividade de IA " Como posso reduzir o espaço ocupado pela memória de vídeo ao executar o DiffSynth-Engine?
Português do Brasil 
简体中文 
English 
日本語 
Deutsch