GPT-OSSを使用する際には、以下の安全上の注意が必要です:
- ハードウェア要件gpt-oss-120bには80GBのGPU(Nvidia H100など)、gpt-oss-20bには16GBのRAMが必要です。
- コンテンツ・セキュリティ有害情報の漏洩を防ぐため、連鎖する推論内容の直接表示を避ける。
- ツール・コールのリスク特にPythonのコード実行では、ヒント・インジェクションのリスクに注意してください!
- セキュリティ機構モデルは、慎重なアラインメントとコマンドの優先順位を決定するために訓練されているが、ユーザーはまだ警戒する必要がある。
OpenAIは、安全なトレーニングと外部監査を通じてモデルのセキュリティを保証し、セキュリティの脆弱性を特定するためにコミュニティを奨励する50万ドルのレッドチームチャレンジを開催しています。ユーザーは、最適な出力のために推奨されるサンプリングパラメータ(temperature=1.0、top_p=1.0)を使用するなどのベストプラクティスに従うことが推奨される。
この答えは記事から得たものである。GPT-OSS:OpenAIの効率的推論のためのオープンソース・ビッグモデルについて