安装和部署Step3需要以下步骤:
- 克隆GitHub仓库:
git clone https://github.com/stepfun-ai/Step3.git
- 设置Python环境(建议Python 3.10+),安装PyTorch(≥2.1.0)和Transformers库(4.54.0)
- 从Hugging Face下载模型权重:
git clone https://huggingface.co/stepfun-ai/step3
- 部署模型,推荐使用vLLM或SGLang推理引擎。例如使用vLLM启动服务:
python -m vllm.entrypoints.api_server --model stepfun-ai/step3 --port 8000
建议在多GPU环境(如4个A800/H800 GPU,每张80GB显存)下部署以获得最佳性能。
本答案来源于文章《Step3:高效生成多模态内容的开源大模型》