Projeto arquitetônico para otimização do desempenho
Para cenários de aplicativos de nível corporativo, o TTS Importer tem um balanceador de carga inteligente integrado e um módulo de processamento de lotes de solicitações, que pode lidar de forma estável com mais de 1.500 solicitações de voz simultâneas por segundo após testes de estresse. O TTS Importer adota uma estratégia de cache de três níveis: cache de memória para solicitações de alta frequência, cache de banco de dados local para registros de histórico e cluster Redis distribuído para sincronização de vários nós, o que reduz o tempo de resposta de solicitações secundárias do mesmo conteúdo para 23 ms.
Um estudo de caso de uma plataforma de educação on-line mostra que, em um cenário de sala de aula ao vivo com 10.000 pessoas, o sistema garante que 99,2% de solicitações de voz sejam retornadas em 800 ms, ajustando dinamicamente a taxa de bits de áudio (autoadaptação de 16kbps-320kbps) e um mecanismo inteligente de pré-carregamento. A documentação do projeto também fornece soluções de implantação do Kubernetes para dar suporte ao dimensionamento horizontal para lidar com o tráfego inesperado, um recurso que o torna o único middleware TTS de leitura certificado pelo Azure.
Essa resposta foi extraída do artigoAzure TTS Importer: Integrando serviços de síntese de fala ao software de leituraO
