海外からのアクセス:www.kdjingpai.com
Ctrl + D このサイトをブックマークする

ProxyLLMはオープンソースのElectronアプリケーションで、ユーザーのコンピュータ上で動作します。そのコアロジックは非常に単純で、内蔵のブラウザウィンドウでChatGPT、Claude、Geminiなどのビッグモデルの公式ウェブページを開き、ユーザとウェブページとのインタラクションによって生成されるネットワークパケット(クッキー、セッションID、認証ヘッダなど)をリアルタイムでリッスンしてキャプチャします。そして、これらのウェブページの通信プロトコルをリアルタイムで標準的なOpenAI準拠のAPIフォーマットに変換するローカルサーバーをホストします。つまり、OpenAIインターフェイスをサポートするサードパーティのソフトウェア(コードエディタプラグイン、没入型翻訳プラグイン、コマンドラインツールなど)は、ログインしているウェブバージョンのアカウント権限を “借用 ”して、ProxyLLMを通してビッグモデル機能を直接呼び出すことができ、追加のAPIコストはかかりません。ツールは完全にローカルで実行され、データはあなたのコンピュータとモデル・プロバイダ間で直接転送されるため、プライバシーとセキュリティが確保されます。

機能一覧

  • ウェブ・セッション転送APIブラウザのLLMウェブ・セッションを自動的にキャプチャし、それを標準の POST /v1/chat/completions インターフェース
  • マルチモデル対応OpenAI()を含むがこれに限定されない、多くの主要なAIウェブサイトのプロトコルの傍受と変換をサポートする。ChatGPT)、人間主義的(Claude)、グーグル Gemini とクウェン(lit.一般原則に関する万の質問(慣用句);fig.長い質問と回答のリスト)。
  • 可視化コントロールパネルさまざまなAIサイトを管理するためのグラフィカル・インターフェースを提供し、ブラウザ・ウィンドウをワンクリックで開いたり更新したりできるほか、キャプチャした資格情報の直感的な表示や選択もサポートする。
  • クロード・コードのディープ・インテグレーション特に Claude Code クロードCLIのプロキシ設定の引き継ぎと復元をサポートするために最適化されたコマンドラインツールにより、クロードのウェブバージョンの機能を直接活用することが可能になります。
  • リクエスト・スニッフィングとデバッグHTTPおよびWebSocketリクエストの詳細を確認できるリクエストインスペクタを内蔵しているため、開発者はデバッグやクレデンシャルの有効性を簡単に確認できます。
  • プライバシー保護すべてのサイトの認証情報、ログ、およびインタラクションデータは、ユーザーのローカルコンピュータにのみ保存され、ログは無感覚処理で提供され、データはサードパーティのサーバーにアップロードされません。
  • カスタムアダプターOpenAI標準ではないプライベートモデルのプロトコルの変換ルールを開発者が記述できるアダプタシステムを提供します。

ヘルプの使用

ProxyLLMは、ソースコード経由で実行するためにビルドする必要がある開発者ツールです。ここでは、ローカルコンピュータ上で独自のAI APIゲートウェイを構築するのに役立つ、詳細なインストールと使用手順を説明します。

1.環境準備

始める前に、お使いのコンピューターにNode.js環境がインストールされていることを確認してください(v16以上を推奨)。ターミナル(TerminalまたはCMD)で次のように入力します。 node -v 和 npm -v をクリックして、インストールが成功したかどうかを確認してください。

2.ソースコードの入手と依存関係のインストール

まず、プロジェクトのソースコードをローカルにダウンロードする必要がある。
ターミナルを開き、以下のコマンドを実行してリポジトリをクローンする:

git clone https://github.com/zhalice2011/ProxyLLM.git

プロジェクト・カタログにアクセスする:

cd ProxyLLM

次に、プロジェクトに必要な依存パッケージをインストールする。このプロジェクトにはフロントエンド・レンダラーとメイン・プロセスが含まれているので、別々にインストールすることをお勧めします:

# 安装根目录依赖
npm install
# 安装渲染进程依赖
npm --prefix renderer install

3.アプリケーションの構築と起動

依存関係のインストールが完了したら、フロントエンドUIをコンパイルし、Electronアプリケーションを起動します:

# 构建 UI 界面
npm --prefix renderer run build
# 构建主程序
npm run build
# 启动应用程序
npm run start

起動に成功すると、ProxyLLMという名前のアプリケーションウィンドウがポップアップし、ターミナルにはローカルAPIサービスがデフォルトのポート(通常は 127.0.0.1:8080)スタート。

4.セッションの設定とキャプチャ

  1. サイト追加ProxyLLMアプリケーションのインターフェイスで、“Add Site ”をクリックします。利用したいAIサービスのURLを入力する(例 https://claude.ai 或 https://chatgpt.com)。
  2. アカウントにログインするリスト内の「開く」ボタンをクリックすると、別ウィンドウのブラウザが表示されます。このウィンドウで、通常通りAIアカウントにログインしてください。
  3. キャプチャバウチャーログインに成功したら、テストメッセージ(例えば “Hello”)をウェブページに送ると、ProxyLLMはバックグラウンドでリクエストヘッダと認証情報を自動的に取得します。
  4. クーポン券を選択ProxyLLMのメインインターフェイスのコントロールパネルに戻り、サイトの下にある “Requests ”または “Credentials ”オプションをクリックし、現在のAPI認証情報として最新に取得された有効なリクエストレコードのいずれかを選択する。

5.APIの呼び出し

これで、ローカルコンピュータ上でOpenAI互換のAPIサービスが動作するようになりました。このアドレスに接続するように、サードパーティのツールを設定することができます。

設定例 curl (例としてテスト):

curl http://127.0.0.1:8080/v1/chat/completions \
-H "Content-Type: application/json" \
-H "Authorization: Bearer dummy-token" \
-d '{
"model": "claude-3-opus-20240229",
"messages": [{"role": "user", "content": "你好,请介绍一下你自己"}]
}'

注:認証はProxyLLMの内部エージェントによって処理されるので、特定のセキュリティ設定をオンにしていない限り、認証ベアラートークンは通常自由に入力できます。

6.クロードコードの統合(特別機能)

もしあなたが開発者で Anthropic リリース claude コマンドラインツールであるProxyLLMは、ワンクリックでテイクオーバーできる:

  1. ProxyLLMインターフェースの “Claude Code ”設定を見つける。
  2. Takeover “をクリックすると、ツールは自動的にローカル設定を変更し、Claude CLIからのトラフィックをProxyLLMに誘導します。
  3. ターミナルで claude コマンドを実行すると、APIで支払ったクレジットではなく、ウェブ版クロードのセッションクレジットが実際に使用されます。

アプリケーションシナリオ

  1. プログラミング補助ソフトのコストゼロ利用
    多くのIDEプラグイン(例えば、CursorやVS Code用の様々なAIプラグイン)は、ユーザーがOpenAIのAPIキーを入力する必要があります。http://127.0.0.1:8080/v1) を押すことなく、有料の ChatGPT Plus または無料の Claude Web Edition アカウントを使ってこれらのプラグインを駆動することができます。 Token 追加料金を支払う。
  2. APIアクセス制限の回避
    組織や地域のネットワーク環境によっては、OpenAI APIへの直接アクセスは制限されていても、ブラウザを通してウェブ版にアクセスできる場合があります。ProxyLLMは、ウェブログインをサポートしないレガシーソフトウェアやスクリプトが、ブラウザトラフィックを “マスカレード ”することで動作できるようにするネイティブミドルウェアとして機能します。
  3. AIアプリケーションの開発とテスト
    LLMベースのアプリケーションを構築する場合、開発者は開発とテストの段階で大量のトークンを消費する。ProxyLLM(通常、より寛大な使用枠を持つ)を通してリクエストをウェブ版に転送することで、開発とテストの段階でのAPIコストを大幅に削減することができる。
  4. マルチモデル・ダイアログの統合管理
    異なるプラットフォーム上に複数のアカウントを持つユーザー(例えば、Gemini AdvancedとChatGPT Plusの両方)の場合、OpenAIフォーマットをサポートする統合チャットクライアント(例えば、Chatbox)を使用することで、バックグラウンドのすべての異なるウェブサービスを、ProxyLLMを介した管理と対話のための単一のインターフェースに統合することができます。

QA

  1. このツールを使用すると、アカウントが禁止されますか?
    リスクもあります。ProxyLLMは実際のブラウザのリクエスト動作をシミュレートしようとしていますが、自動化されたAPIコール(特に、通常の人間の読書速度を超える同時リクエスト)が頻繁に発生すると、サービスプロバイダのリスクコントロールメカニズムが作動する可能性があります。ProxyLLMは、個人的な支援にのみ使用し、大規模な商用サービスには使用しないことをお勧めします。
  2. すべてのAIサイトをサポートしていますか?
    すべてのサイトに対応しているわけではありません。主にビルトインアダプタ(OpenAI、Anthropic、Geminiなど)を持つウェブサイトをサポートしています。適応されていないWebサイトの場合、ProxyLLMはそれらの特定の通信プロトコルを自動的に解決することができないため、ユーザが自分で適応スクリプトを書く必要があるかもしれません。
  3. 私のチャットは安全ですか?
    ProxyLLMはローカルで動作するソフトウェアで、すべてのトラフィックのキャプチャと転送はあなたのコンピュータ(Localhost)で行われ、作者のサーバを経由しません。ただし、チャットは対応するAIサービスプロバイダ(例:OpenAI)に送信されますのでご注意ください。
  4. なぜリクエストを捕捉できないのですか?
    ProxyLLMでポップアップ表示される専用ブラウザウィンドウで、「メッセージの送信 - 返信の受信」プロセスを完全に完了させてください。単にログインするだけでは不十分で、実際の会話のWebSocketまたはHTTPパケットを解析してコンテキスト情報を抽出する必要があります。
0ブックマークに登録
1表彰される

おすすめ

AIツールが見つからない?こちらをお試しください!

キーワードを入力してください。Bing検索へのアクセシビリティAIツールはこのサイトですぐに見つけることができる。

トップに戻る