Para dispositivos com menos de 12 GB de memória de vídeo, estão disponíveis as seguintes opções de otimização:
parametrização
- Força o parâmetro de persistência a ser desativado:
--num_persistent_param_in_dit 0 - Ativar a aceleração do TeaCache:
--use_teacache - Ajuste o limite do cache (0,2-0,5):
--teacache_thresh 0.3
Estratégia de geração
- Prefira a resolução 480P
- O modo de vídeo curto (clipe) tem uma pegada menor do que o modo de streaming
- Controle a duração de uma única geração para não mais que 30 segundos
Otimização em nível de sistema
- Feche outros programas que sobrecarregam a GPU
- fazer uso de
torch.backends.cudnn.benchmark=TrueHabilitando a otimização do CuDNN - Funciona com mais eficiência no Linux do que no Windows 15-20%
Essa resposta foi extraída do artigoMultiTalk: uma ferramenta orientada por áudio para gerar vídeos de conversas com várias pessoasO
Não pode ser reproduzido sem permissão:Ferramentas de produtividade de IA " Como posso otimizar o desempenho do MultiTalk em dispositivos com pouca memória gráfica?
