Step3を展開する前に、以下の準備を完了しておく必要がある:
- 入手コードGitHub リポジトリ (https://github.com/stepfun-ai/Step3.git) から git clone コマンドでソースコードを取得する。
- Python環境:PyTorch (≥2.1.0)とTransformersライブラリ(推奨バージョン4.54.0)がインストールされたPython 3.10以上を推奨。
- モデルの重さ:Hugging Faceプラットフォームからbf16またはblock-fp8形式のウェイトファイルをダウンロードする (https://huggingface.co/stepfun-ai/step3)
- ハードウェア要件:ベストプラクティスは、4つのA800/H800 GPUと80GBのRAMを搭載することですが、シングルGPUでも実行可能です。
環境設定は、condaを介して隔離された環境を作成し、指定されたバージョンの深層学習フレームワークをインストールする。完全なデプロイ手順はプロジェクトのドキュメントに詳述されている。
この答えは記事から得たものである。Step3: マルチモーダルコンテンツのためのオープンソースマクロモデルの効率的な生成について