部署方式矩阵
Verwendungsszenarien | Empfohlenes Programm | Schlüssel-Konfigurationen |
---|---|---|
Forschung und Entwicklung (F&E) | PyTorch实现 |
|
Produktionsumgebung | Rust-Server |
|
苹果设备 | MLX框架 |
|
典型部署流程示例
PyTorch研究环境部署:
- 克隆GitHub仓库并安装依赖
- 下载kyutai/stt-1b-en_fr预训练模型
- vollziehen
python -m moshi_mlx.run_inference
启动推理
Rust生产部署要点:
- passieren (eine Rechnung oder Inspektion etc.)
cargo install
安装服务器组件 - 编辑config.toml调整批处理参数
- .
--release
模式保证性能
Diese Antwort stammt aus dem ArtikelKyutai: Werkzeug zur Umwandlung von Sprache in Text in EchtzeitDie