Die folgenden Schritte sind für die Installation und Bereitstellung von Step3 erforderlich:
- Klonen von GitHub-Repositories:
git clone https://github.com/stepfun-ai/Step3.git - Eine Python-Umgebung einrichten (Python 3.10+ empfohlen), PyTorch (≥2.1.0) und die Transformers-Bibliothek (4.54.0) installieren
- Modellgewichte von Hugging Face herunterladen:
git clone https://huggingface.co/stepfun-ai/step3 - Bereitstellungsmodells wird empfohlen, vLLM oder die SGLang-Inferenzmaschine zu verwenden. Verwenden Sie zum Beispiel vLLM, um den Dienst zu starten:
python -m vllm.entrypoints.api_server --model stepfun-ai/step3 --port 8000
Für eine optimale Leistung wird der Einsatz in einer Multi-GPU-Umgebung (z. B. 4 A800/H800-GPUs mit je 80 GB Videospeicher) empfohlen.
Diese Antwort stammt aus dem ArtikelSchritt 3: Effiziente Generierung von quelloffenen Makromodellen für multimodale InhalteDie
Darf nicht ohne Genehmigung vervielfältigt werden:KI-Produktivitätswerkzeuge " Wie kann ich ein Step3-Modell installieren und einsetzen?
Deutsch 
简体中文 
English 
日本語 
Português do Brasil