Das Repository bietet zwei Modelle an:gpt-oss-120b
(117B-Parameter) undgpt-oss-20b
(21B-Parameter). Bei der Auswahl eines Modells müssen die Hardwarebedingungen berücksichtigt werden:
- Leistungsstarke GPUs (z. B. H100): Empfohlene Verwendung
gpt-oss-120b
erfordert mindestens 80 GB GPU-Speicher. - Verbrauchergerechte Hardware (z. B. Geräte mit 16 GB RAM): Empfohlene Verwendung
gpt-oss-20b
Der Ressourcen-Fußabdruck ist gering.
In dem Skript durch Ändern dermodel_path
Modelle zur Variablenauswahl, zum Beispiel:
model_path = "openai/gpt-oss-20b" # 选择20B模型
# model_path = "openai/gpt-oss-120b" # 选择120B模型
Das Skript konfiguriert die Gerätezuordnung und die Optimierungseinstellungen automatisch auf der Grundlage der Modellgröße.
Diese Antwort stammt aus dem ArtikelSammlung von Skripten und Tutorials zur Feinabstimmung von OpenAI GPT OSS ModellenDie