Das Repository bietet zwei Modelle an:gpt-oss-120b(117B-Parameter) undgpt-oss-20b(21B-Parameter). Bei der Auswahl eines Modells müssen die Hardwarebedingungen berücksichtigt werden:
- Leistungsstarke GPUs (z. B. H100): Empfohlene Verwendung
gpt-oss-120berfordert mindestens 80 GB GPU-Speicher. - Verbrauchergerechte Hardware (z. B. Geräte mit 16 GB RAM): Empfohlene Verwendung
gpt-oss-20bDer Ressourcen-Fußabdruck ist gering.
In dem Skript durch Ändern dermodel_pathModelle zur Variablenauswahl, zum Beispiel:
model_path = "openai/gpt-oss-20b" # 选择20B模型
# model_path = "openai/gpt-oss-120b" # 选择120B模型
Das Skript konfiguriert die Gerätezuordnung und die Optimierungseinstellungen automatisch auf der Grundlage der Modellgröße.
Diese Antwort stammt aus dem ArtikelSammlung von Skripten und Tutorials zur Feinabstimmung von OpenAI GPT OSS ModellenDie






























