在移动设备上如何实现低功耗的实时语音转录功能？

2025-08-23

792

移动端语音转录能效优化方案

针对iPhone等移动设备的特殊需求，Kyutai的MLX实现提供以下优化手段：

硬件加速利用：MLX框架深度整合苹果神经引擎(ANE)，相较CPU模式节能60%，推荐iPhone 12及以上机型
模型量化技术: Uso--quantize参数加载8位量化模型，内存占用减少50%且精度损失<2%
动态功耗调节: Configurações--power-save模式自动降低采样率(16kHz→8kHz)非活跃期
实践配置建议::
连续转录：python -m moshi_mlx.run_inference --hf-repo kyutai/stt-1b-en_fr-mlx --mic --quantize --batch-size 4
单次转录：--single-utterance模式可立即释放资源

实测显示，iPhone 15 Pro满电状态下可持续工作5小时，配合AVAudioSession(usado em uma expressão nominal).ambient模式可进一步提升20%续航。