Step3 シームレスなプレーを実現するには
- ネイティブサポート OpenAI/Anthropic互換のREST API インターフェースプロトコル、リクエストフォーマットは同一
- 標準化された
/v1/completionsJSON形式のテキスト/画像混在入力をサポートするエンドポイント
実施ステップ
- とおす
git clone https://github.com/stepfun-ai/Step3.gitコードを取得 - 利用する
python -m vllm.entrypoints.api_serverサービスを開始する（デフォルトポート8000） - サンプルコードを参照して、オリジナルのOpenAIクライアントの
base_urlローカルアドレス
テストでは、既存アプリケーションの移行にかかる平均変換時間を2時間未満に抑えられることが示されている。
この答えは記事から得たものである。Step3: マルチモーダルコンテンツのためのオープンソースマクロモデルの効率的な生成について
無断転載を禁じます：AI生産性ツール " OpenAIのような商用APIと互換性のあるマルチモーダルサービスを迅速に実装する方法
日本語 
简体中文 
English 
Deutsch 
Português do Brasil