One Balanceは、Cloudflare AI Gateway上に構築されたオープンソースツールで、開発者が複数のAI APIキーを効率的に管理することを支援することに重点を置いている。インテリジェントなポーリングとヘルスチェックによりAPIリクエストを割り当て、クォータ使用を最適化し、キーブロックのリスクを低減します。ユーザーはCloudflare Workerに素早くデプロイでき、Google AI Studio、OpenAI、その他のAIプロバイダーをサポートする。このプロジェクトはGitHub上でオープンソースで公開されており、シンプルな構成で、個人開発者にもチームにも適している。
機能一覧
- API リクエストを Cloudflare AI Gateway 経由で転送し、キーの安全を確保する。
- 複数のAPIキーをインテリジェントにポーリングし、クォータを最大化するためにリクエストを自動的に分配します。
- モデルレベルの電流制限をサポートし、過制限モデルを正確に特定し、一時的にブロックします。
- キーの状態を保存するD1データベースを自動的に作成・管理。
- 様々なAIプロバイダーと互換性のある、統一されたAPIリクエストポータルを提供する。
- ワンクリックでCloudflare Workerにデプロイし、専用のWorker URLを生成します。
- インテリジェントなエラー処理、分と日のクォータの区別、自動冷却。
ヘルプの使用
設置プロセス
One BalanceはCloudflare Workerのデプロイに依存しており、これは簡単なプロセスですが、基本的な技術的知識が必要です。以下はその詳細な手順である:
- プロジェクト・ウェアハウスのクローン
ターミナルを開き、以下のコマンドを実行して One Balance リポジトリをクローンします:git clone https://github.com/glidea/one-balance.git cd one-balance
- 依存関係のインストール
pnpmを使って、プロジェクトに必要な依存関係をインストールする:pnpm install
- 認証キーの設定
環境変数の設定AUTH_KEY
これはAPIリクエストを検証するために使用される。- マック/リナックス 以下のコマンドを実行する:
AUTH_KEY=your-super-secret-auth-key pnpm run deploycf
- Windows (PowerShell) 以下のコマンドを実行する:
$env:AUTH_KEY = "your-super-secret-auth-key"; pnpm run deploycf
- Cloudflare Workerへのデプロイ
デプロイコマンドを実行した後、Cloudflareのwrangler
ツールをインストールする必要があります)。ログインしていない場合は、プロンプトに従ってログインを完了します。配置によって D1 データベースが自動的に作成され、たとえば Worker URL が生成されます:https://one-balance-backend.<your-subdomain>.workers.dev
- 配備の確認
デプロイに成功したら、生成された Worker URL にアクセスします。https://one-balance-backend.workers.dev
).中国本土ではVPNが必要な場合があります。curl
コマンドを使用して、APIが正しく応答しているかどうかをテストする。
使用方法
One BalanceはCloudflare AI Gatewayを経由してAPIリクエストをプロキシし、次のように接続する。 グーグルAIスタジオ またはOpenAIのようなサービス。仕組みはこうだ:
- APIリクエストの送信
生成された Worker URL を使ってリクエストを送信します。例えば、Google ジェミニ 2.5 Proモデルのリクエスト形式は以下の通り:https://one-balance-backend.workers.dev/api/google-ai-studio/v1beta/models/gemini-2.5-pro:generateContent
リクエストはヘッダーに
AUTH_KEY
例えばcurl -H "Authorization: Bearer your-super-secret-auth-key" \ https://one-balance-backend.workers.dev/api/google-ai-studio/v1beta/models/gemini-2.5-pro:generateContent
- キーステータスの管理
One Balanceは、D1データベースを使用して、以下のような主要なステータスを保存する:- アクティブ キーは使用可能です。
- クーリングダウン モデルは電流制限を発動し、一時的に冷却される。
- ブロック キーはブロックされ停止している。
システムは、分単位または日単位の割り当てに基づいている(例:Google AIスタジオ (クォータ)は、例えばスカイレベルのクォータがトリガーされてから24時間後など、クールダウン時間を自動的に調整する。
- リクエストログの表示
AIゲートウェイのリクエストログをCloudflareコンソールで表示し、成功率、エラータイプなどを確認できます。One Balanceは、利用可能なキーに切り替えることで、429(レート制限)エラーを自動的に処理します。
注目の機能操作
- Cloudflare AIゲートウェイ転送 リクエストはゲートウェイのプロキシを経由して行われるため、オリジナルの鍵は隠され、ブロッキングのリスクは軽減される。
- インテリジェント・ポーリング リクエストを送信するために利用可能なキーを自動的に選択するため、手動で管理する必要がありません。
- モデル・レベルの電流制限 あるモデルが流量制限のトリガーを引くと、システムはそのモデル要求を中断し、他の利用可能なモデルやキーに切り替える。
- 迅速な展開 ワンクリックでCloudflare Workerにデプロイし、Worker URLを生成すれば準備完了です。
- エラー処理 クォータエラーを識別し、自動的に冷却し、サービスの継続性を保証するためにキーを切り替えます。
ほら
- 中国本土のユーザーはVPNが必要な場合があります。
- 共有しない
AUTH_KEY
リクエストトラッキングエラーがフロー制限を引き起こさないようにするためである。 - Cloudflareコンソールに定期的にログインし、キーの更新やクォータポリシーの最適化を行います。
アプリケーションシナリオ
- AI開発者が鍵を効率的に管理
開発者は複数のAI APIキーを保持し、クォータの使用量を最大化する必要があります。one BalanceはCloudflare AI Gatewayを通じてインテリジェントにリクエストを分散することで管理を簡素化します。 - エンタープライズAIアプリケーションの高可用性
チャットボットやコンテンツ生成ツールを開発する企業は、APIコールを安定させる必要があります。 One Balanceは、サービスの中断を防ぐために、キーポーリングとエラー処理を保証します。 - オープンソースコミュニティのコラボレーション
オープンソースプロジェクトチームは、One Balanceとキープールを共有することで、ブロックのリスクを減らし、開発効率を向上させることができます。
品質保証
- One BalanceがサポートしているAIプロバイダーは?
Cloudflare AI Gatewayのドキュメントに記載されているGoogle AI Studio、OpenAIなどのサポート(https://developers.cloudflare.com/ai-gateway/providers
). - キー・ブロックのリスクを減らすには?
Cloudflare AI Gatewayのプロキシリクエストを使用してキー情報を隠す。共有を避けるAUTH_KEY
出場枠は定期的にチェックされる。 - 配備の失敗はどのように処理されるのか?
認識するwrangler
ログインしてチェックAUTH_KEY
設定。端末のログやGitHubのIssuesを確認してください。 - 他のAIプロバイダーをどのようにサポートしていますか?
リクエスト転送ロジックを修正して、Cloudflare AI Gatewayのドキュメントを参照し、新しいプロバイダーのAPIフォーマットを追加します。