分步解决方案
针对Windows平台的特殊环境,建议采取以下标准化安装流程:
- 前置环境配置:
- 安装Visual Studio 2022并勾选”使用C++的桌面开发”组件
- 通过NVIDIA官方驱动确保CUDA 12.6+环境(需RTX 20系以上显卡)
- 精准依赖安装:
- 使用conda创建Python3.11虚拟环境:
conda create -n nunchaku python=3.11
- 通过pip指定版本安装:
pip install torch==2.6.0 torchvision==0.16.0 --index-url https://download.pytorch.org/whl/cu121
- 使用conda创建Python3.11虚拟环境:
- 替代安装方案:
- 直接使用预编译wheel:
pip install https://huggingface.co/mit-han-lab/nunchaku/resolve/main/nunchaku-0.1.4...win_amd64.whl
- 或从源码编译时设置
set CL=/std:c++17
解决MSVC兼容问题
- 直接使用预编译wheel:
常见问题处理:
• 若遇MSB8036错误,需安装Windows 10 SDK(10.0.19041.0)
• 通过nvidia-smi
验证CUDA版本时,需注意驱动程序版本与CUDA Toolkit版本的对应关系
本答案来源于文章《Nunchaku:高效运行FLUX.1 和 SANA 4位量化模型的推理工具》