Opções do programa de implantação
Configurações recomendadas com base em cenários de uso:
- Basic Development Edition - Placa de vídeo RTX 3090 (24G de memória) + CUDA 11.7 + 32G de RAM para testes de vídeo de até 1080P
- Business Applications Edition - 2×RTX 4090 (em ponte via NVLink) + 64G de RAM + SSD PCIe 4.0 com suporte à geração de lotes de 720P
- Soluções em nuvem - Instância AWS p4d.24xlarge (8×A100 GPUs) combinada com a implantação em contêiner do Docker
Guia de ajuste de desempenho
Principais parâmetros de otimização:
- Definir mixed_precision: fp16 em config.yaml
- Ajuste o número de especialistas em MoE para 4 (o padrão 8 reduz a velocidade em 10-151 TP3T)
- Precisão de mistura automatizada com o AMP da Torch
- Habilitar o parâmetro -chunk_size 32 para fragmentação durante a geração de vídeo
Essa resposta foi extraída do artigoWan: uma ferramenta para geração de vídeo e imagem com base na família de modelos WanO
Não pode ser reproduzido sem permissão:Ferramentas de produtividade de IA " Quais dicas de otimização da configuração de hardware são necessárias para a implementação local dos modelos Wan 2.2?
