如何优化Step1X-Edit的推理速度？

2025-08-23

1.5 K

加速推理性能的完整方案

针对生成速度瓶颈，可采用以下优化策略：

启用Flash Attention：安装时执行pip install flash-attn --no-build-isolation，该技术可提升30%推理速度（需RTX 30/40系列或更新显卡）
显存优化配置設定--enable_xformers True参数，配合torch.backends.cuda.enable_flash_sdp(True)实现内存高效计算
硬件级加速：在NVIDIA H100等支持FP8 Tensor Core的GPU上，使用--precision fp8参数可获得2倍速度提升

测试数据显示：在H800显卡上，512×512图像生成时间可从5秒缩短至2.8秒（使用全部优化措施后）