Matriz de modalidades de implantação
| Cenários de uso | Programa recomendado | Configurações principais |
|---|---|---|
| pesquisa e desenvolvimento (P&D) | Implementação do PyTorch |
|
| ambiente de produção | Servidor Rust |
|
| Dispositivo Apple | Estrutura do MLX |
|
Exemplo de um processo típico de implantação
Implementação do ambiente de pesquisa PyTorch:
- Clonagem de repositórios do GitHub e instalação de dependências
- Baixe o modelo pré-treinado kyutai/stt-1b-en_fr
- realizar
python -m moshi_mlx.run_inferenceinferência
Fundamentos da implantação do Rust Production:
- aprovar (um projeto de lei ou inspeção etc.)
cargo installInstalação de componentes do servidor - Editar o config.toml para ajustar os parâmetros do lote
- começar a usar
--releaseModo Desempenho Garantido
Essa resposta foi extraída do artigoKyutai: ferramenta de conversão de fala em texto em tempo realO
Não pode ser reproduzido sem permissão:Ferramentas de produtividade de IA " Como implementar a modelagem de fluxos atrasados em diferentes cenários?
