現地展開のための完全プログラム
プライベート・デプロイメント LM Speed は、Docker コンテナ化とネイティブ Node.js の両方をサポートしています:
コンテナ展開ソリューション
- Docker v20+とdocker-composeがインストールされていることを確認する。
- GitHubからプロジェクト・リポジトリーをクローンした後、ドキュメントに従って設定する。
docker-compose.ymlのデータベース・パラメータは - はこびだす
docker-compose up -dサービス・スタックを起動し、デフォルトで8650番ポートを公開する。
ネイティブ配備プログラム
- Node.js v16+とPostgreSQLがプリインストールされている必要があります。
- とおす
.envデータベース接続文字列とJWTキーを設定する設定ファイル - PM2などのプロセス・マネージャーを使用して、サービスの高い可用性を確保する。
どちらも注意が必要だ:本番環境への展開NGINXリバースプロキシとLet's Encrypt証明書を設定し、高集中度のテストシナリオに対応するために適切なPostgreSQL接続プールのパラメータ(20~50接続を推奨)を設定することを推奨します。テストデータはボリュームマウントされたデータベースに永続化されますので、pg_dump による定期的なバックアップを推奨します。
この答えは記事から得たものである。LMスピード:大規模モデルAPIのパフォーマンスを迅速にテストするについて




























