Die Schritte zur Installation und Konfiguration des gpt-oss-recipes-Repositorys sind wie folgt:
- Klon-Lager: durch Bestellung
git clone https://github.com/huggingface/gpt-oss-recipes.git
Klonen Sie das Repository nach lokal. - Erstellen einer virtuellen Umgebung: Erstellen einer virtuellen Umgebung mit Python 3.11, empfohlen
uv
Werkzeug mit dem Befehluv venv gpt-oss --python 3.11
und aktivieren Sie die Umgebung. - Installation von Abhängigkeiten: Installieren Sie die notwendigen Pakete wie PyTorch und Transformers nach dem Upgrade von pip mit dem Befehl
uv pip install torch==2.8.0 torchvision torchaudio --index-url https://download.pytorch.org/whl/test/cu128
im Gesang antwortenuv pip install -U transformers accelerate
. - Optionale Installation des Triton-KernelsWenn die Hardware MXFP4-Quantisierung unterstützt (z. B. H100 oder RTX 50xx), können Sie den Befehl
uv pip install git+https://github.com/triton-lang/triton.git@main#subdirectory=python/triton_kernels
Einbau.
Sobald Sie die oben genannten Schritte abgeschlossen haben, können Sie die Skripte und Tutorials im Repository verwenden.
Diese Antwort stammt aus dem ArtikelSammlung von Skripten und Tutorials zur Feinabstimmung von OpenAI GPT OSS ModellenDie