O projeto desenvolveu um mecanismo eficiente de processamento paralelo para atender aos requisitos de geração de áudio para romances longos. O núcleo compreende três níveis de otimização: 1) Processamento paralelo em nível de capítulo com base em multithreading Python; 2) Uma estratégia de polling de IP que suporta operação distribuída em várias máquinas; 3) Um mecanismo inteligente de repetição de tarefas tolerante a falhas. Em testes práticos, uma configuração de máquina única com 20 threads pode aumentar a velocidade de processamento em aproximadamente 18 vezes.
As métricas de desempenho indicam que: uma única máquina executando um único thread pode processar aproximadamente 300 capítulos durante a noite (8 horas); com cinco máquinas, cada uma configurada com 20 threads, a geração de áudio para 2.000 capítulos pode ser concluída em apenas 5 horas. Essa escalabilidade elástica resolve o gargalo de eficiência tradicionalmente encontrado pelos sistemas TTS ao processar textos longos.
O sistema incorpora um algoritmo de balanceamento de carga que contorna automaticamente as restrições de chamadas de API impostas por modelos de grande escala. Recomenda-se que os desenvolvedores configurem um servidor de fila de tarefas central ao implantar vários nós de trabalho em um ambiente de rede local, para coordenar as tarefas de rastreamento e geração entre os nós. Modelos de configuração relevantes estão incluídos no diretório de exemplos do projeto.
Essa resposta foi extraída do artigoUma ferramenta para rastrear automaticamente romances e gerar audiolivros com vários caracteresO
