Der Installationsprozess ist in drei Hauptschritte unterteilt:
- Download Modellgewichte: Holen Sie es sich über die Hugging Face-Plattform, z. B. durch Ausführen der
huggingface-cli download openai/gpt-oss-20bRichtlinien - Konfigurieren der Python-UmgebungPython 3.12 oder höher ist erforderlich, eine virtuelle Umgebung wird empfohlen, installieren Sie die
transformersundaccelerateund andere grundlegende Abhängigkeitspakete - Der Einsatz läuftVier Mainstream-Optionen sind verfügbar:
- Direktes Laden von Modellen mit der Transformers-Bibliothek
- Starten von OpenAI-kompatiblen Servern über das vLLM-Framework
- Ziehen Sie das Modellbild zur Ausführung in Ollama
- Apple Silicon-Geräte erfordern eine zusätzliche Konvertierung der Gewichte in das Metal-Format
Besonderer Hinweis: Passendgpt-ossPaket und aktivieren Sie das Harmony-Format, sonst funktioniert das Modell nicht richtig.
Diese Antwort stammt aus dem ArtikelGPT-OSS: OpenAIs quelloffenes großes Modell für effizientes ReasoningDie
Darf nicht ohne Genehmigung vervielfältigt werden:KI-Produktivitätswerkzeuge " Welche Schritte sind erforderlich, um ein GPT-OSS-Modell auf einem lokalen Gerät zu installieren?
Deutsch 
简体中文 
English 
日本語 
Português do Brasil