部署方式矩阵
Cenários de uso | Programa recomendado | Configurações principais |
---|---|---|
pesquisa e desenvolvimento (P&D) | PyTorch实现 |
|
ambiente de produção | Servidor Rust |
|
苹果设备 | MLX框架 |
|
典型部署流程示例
PyTorch研究环境部署:
- 克隆GitHub仓库并安装依赖
- 下载kyutai/stt-1b-en_fr预训练模型
- realizar
python -m moshi_mlx.run_inference
启动推理
Rust生产部署要点:
- aprovar (um projeto de lei ou inspeção etc.)
cargo install
安装服务器组件 - 编辑config.toml调整批处理参数
- começar a usar
--release
模式保证性能
Essa resposta foi extraída do artigoKyutai: ferramenta de conversão de fala em texto em tempo realO