部署方式矩阵
| Verwendungsszenarien | Empfohlenes Programm | Schlüssel-Konfigurationen |
|---|---|---|
| Forschung und Entwicklung (F&E) | PyTorch实现 |
|
| Produktionsumgebung | Rust-Server |
|
| 苹果设备 | MLX框架 |
|
典型部署流程示例
PyTorch研究环境部署:
- Klonen von GitHub-Repositories und Installieren von Abhängigkeiten
- 下载kyutai/stt-1b-en_fr预训练模型
- vollziehen
python -m moshi_mlx.run_inferenceInferenz
Rust生产部署要点:
- passieren (eine Rechnung oder Inspektion etc.)
cargo install安装服务器组件 - 编辑config.toml调整批处理参数
- .
--release模式保证性能
Diese Antwort stammt aus dem ArtikelKyutai: Werkzeug zur Umwandlung von Sprache in Text in EchtzeitDie































