As seguintes estratégias de otimização podem ser usadas para solucionar a falta de memória gráfica:
- Áudio de fragmentação::
Divida os resultados após cortar o áudio longo em segmentos de 15 a 20 segundos (por exemplo, com a biblioteca Librosa) e inseri-los no modelo separadamente - Ajuste dos parâmetros do lote::
existirdecode_default.yamlconfigurarbatch_size: 1e habilitarstreaming: truetransmissão - Ativar a precisão da mistura::
Adição de parâmetros ao carregar um modelo--fp16Reduz o consumo de memória gráfica em aproximadamente 40% - Otimização de hardware::
1. libere a memória de vídeo não utilizada:torch.cuda.empty_cache()
2. definir variáveis de ambiente:export PYTORCH_CUDA_ALLOC_CONF=garbage_collection_threshold:0.6
Testes reais mostraram que esses métodos permitem que a GPU de 12 GB de RAM processe áudio de forma estável por mais de uma hora.
Essa resposta foi extraída do artigoOpusLM_7B_Anneal: um modelo unificado eficiente para reconhecimento e síntese de falaO
Não pode ser reproduzido sem permissão:Ferramentas de produtividade de IA " Como otimizar o desempenho do reconhecimento de fala do OpusLM_7B_Anneal em GPUs com pouca memória gráfica?
Português do Brasil 
简体中文 
English 
日本語 
Deutsch