Três soluções para memória de vídeo insuficiente
Com relação aos requisitos de memória de vídeo do Step1X-Edit durante a execução (a versão básica requer 42 GB de memória de vídeo), as soluções específicas a seguir são:
- Usando a versão quantificada do FP8O modelo oficial de quantificação do FP8 reduz o requisito de memória gráfica para 16 GB para placas gráficas de consumo, como a NVIDIA 3090 Ti. A instalação requer a seleção do modelo ao fazer o downloadstep1x-edit-i1258-fp8.safetensorsarquivo de pesos
- Ajuste dos parâmetros de resolução: através de
--size_levelO parâmetro força o uso da resolução de 512×512 (padrão), que economiza cerca de 8 GB de memória de vídeo em comparação com 1024×1024 - Programa de raciocínio distribuídoPara cenários de pesquisa especializados, as técnicas de paralelismo de modelo oficialmente disponíveis podem ser usadas modificando o
scripts/dist_inference.pyOs scripts distribuem a carga de computação para várias GPUs
Sugestões adicionais: feche programas em segundo plano desnecessários para liberar memória de vídeo ou alugue instâncias do A100/H800 em plataformas de serviços em nuvem para computação temporária (~$1,5/hora)
Essa resposta foi extraída do artigoStep1X-Edit: uma ferramenta de código aberto para editar imagens com instruções em linguagem naturalO
Não pode ser reproduzido sem permissão:Ferramentas de produtividade de IA " Como resolver o problema de memória de vídeo insuficiente ao executar o Step1X-Edit?
