リポジトリには2つのモデルがある:gpt-oss-120b
(117Bパラメータ)とgpt-oss-20b
(21Bパラメータ)。モデルを選択する際には、ハードウェアの条件を考慮する必要がある:
- 高性能GPU(H100など)推奨用途
gpt-oss-120b
少なくとも80GBのGPUメモリを必要とする。 - コンシューマーグレードのハードウェア(例:16GB RAMのデバイス)推奨用途
gpt-oss-20b
資源の使用量も少ない。
スクリプトでmodel_path
例えば、変数選択モデル:
model_path = "openai/gpt-oss-20b" # 选择20B模型
# model_path = "openai/gpt-oss-120b" # 选择120B模型
スクリプトは、モデルサイズに基づいてデバイスマッピングと最適化設定を自動的に構成します。
この答えは記事から得たものである。OpenAI GPT OSSモデルを微調整するためのスクリプトとチュートリアル集について