Gemini-API-Guthaben vervielfacht: gemini-balance Load Balancing kostenlos mit ClawCloud einsetzen

Multiplikation von Gemini API Free Credits mit Load Balancing

Google bietet Entwicklern eine großzügige Gemini Kostenlose API-Nutzungsrechte durch Google AI Studio Es ist einfach, einen API-Schlüssel zu erhalten. Kostenlose Pakete enthalten in der Regel ein Minutenlimit und eine tägliche Gesamt Token Anrufvolumen. Obwohl die Anzahl eines einzelnen Schlüssels begrenzt ist, können Sie durch die Registrierung verschiedener Konten zur Beantragung mehrerer Schlüssel und mit Hilfe von Lastausgleichswerkzeugen diese Begrenzung effektiv durchbrechen und die Anzahl vervielfachen.

In diesem Artikel werden wir Folgendes vorstellen gemini-balanceEin Programm, das Folgendes vorsieht Google Gemini API bietet Proxy- und Lastausgleichsfunktionen für die Anwendung. Dieses Projekt wurde entwickelt von dem Entwickler snailyp Erstellt, basierend auf Python FastAPI Builds, die es den Nutzern ermöglichen, mehrere Gemini API-Schlüssel für Polling, Authentifizierung, Modellfilterung und Zustandsüberwachung.

Wir werden das mit einem kostenlosen ClawCloud Containerdienste zum Einsatz gemini-balanceDies ermöglicht die Schaffung einer stabilen, proxyfreien Lösung, die mehrere Gemini Eine persönliche, proprietäre Schnittstelle für API-Schlüssel.

• 项目地址: https://github.com/snailyp/gemini-balance
• Dokumentation über den Einsatz. https://gb-docs.snaily.top/guide/setup-clawcloud-sqlite.html

I. Bereiten Sie mehrere Gemini-API-Schlüssel vor

gewinnen Gemini API-Schlüssel sind eine Voraussetzung für die Bereitstellung von Diensten.

1. Interviews Google AI Studio Bewerbungsseite: https://aistudio.google.com/
2. Melden Sie sich mit Ihrem Google-Konto an und erstellen Sie einen API-Schlüssel.
3. Falls erforderlich, können Sie sich bei mehreren verschiedenen Google-Konten registrieren und anmelden und diesen Vorgang wiederholen, um mehrere separate API-Schlüssel zu erhalten.

Registrieren Sie sich für ein ClawCloud-Konto

ClawCloud ist eine 2024 gegründete Cloud-Computing-Plattform mit Hauptsitz in Singapur, die sich auf leistungsstarke Cloud-Infrastrukturdienste für Entwickler spezialisiert hat. Sein ClawCloud Run ist ein Platform-as-a-Service (PaaS)-Angebot, das den Prozess der Anwendungsbereitstellung erheblich vereinfacht. Für Benutzer, die seit mehr als 180 Tagen auf Github registriert sind, ist dieClawCloud Eine monatliche Spende von 5 Dollar reicht aus, um die gemini-balance Laufender Betrieb des Projekts.

1. Interviews ClawCloud offiziellen Website und verwenden Sie Ihre GitHub Konto-Login.
2. Nach dem Einloggen können Sie im Benutzerzentrum des Account Center Sie können den monatlichen geschenkten Betrag sowie den aktuellen Verbrauch einsehen.

Einsatz von gemini-balance in ClawCloud

Als Nächstes werden wir die ClawCloud Run zum Einsatz in Containern gemini-balance。

1. Serverregion auswählen
   在 ClawCloud klicken Sie auf die linke obere Ecke des Fensters RegionEmpfohlene Wahlmöglichkeiten Singapore. Vergewissern Sie sich nach dem Aktualisieren der Seite, dass der Bereich mit einem Häkchen versehen ist.
2. Anwendungen erstellen
   Streik (auf der Tastatur) App Launchpadund klicken Sie dann auf die obere rechte Ecke der Seite Create App Rufen Sie die Seite Anwendungskonfiguration auf.
3. Anwendungsparameter konfigurieren
   Auf der Konfigurationsseite geben Sie die Parameter wie unten beschrieben ein:
   • Image Name: ghcr.io/snailyp/gemini-balance:latest
   • Application Name: geminibalance (oder welchen Namen Sie auch immer bevorzugen)
   • Image: Public

   

   • Usage: Fixed
   • Replicas: 1
   • CPU: 1
   • Memory: 512
     Hinweis: Diese Konfiguration gilt für das kostenlose Kontingent, das 10 G kostenlosen Datenverkehr pro Monat bietet.
   • Network
     • Container Port: 8000
     • Enable Internet: Tippen Sie als Access Stand der Dinge
4. Umgebungsvariablen konfigurieren
   在 Advanced Configura -> Environment Variables Abschnitt, klicken Sie auf den Addfügen Sie die folgenden Variablen hinzu. wobei API_KEYS 和 ALLOWED_TOKENS Er muss durch Ihren eigenen Schlüssel und Ihr eigenes Zugangstoken ersetzt werden.

   DATABASE_TYPE=sqlite
   SQLITE_DATABASE=default_db
   API_KEYS=["YOUR_GEMINI_API_KEY_1","YOUR_GEMINI_API_KEY_2"]
   ALLOWED_TOKENS=["YOUR_ACCESS_TOKEN_1"]
   AUTH_TOKEN=
   TZ=Asia/Shanghai
   

   Variable Beschreibung.

5. Konfiguration Speicherung
   Streik (auf der Tastatur) Add Storagewie in der Abbildung dargestellt, wird der Container von /app/db Pfad eingehängt wird, um die Daten dauerhaft zu speichern.
6. Bereitstellung von Anwendungen
   Kehren Sie zum Anfang der Seite zurück und klicken Sie auf Deploy Application. Wählen Sie im Bestätigungs-Pop-up-Fenster Yes。
7. Einsatzstatus prüfen
   Nachdem Sie einige Sekunden gewartet haben, springt die Seite zum Bildschirm mit dem Bewerbungsstatus. Bitte vergewissern Sie sich, dass in der oberen linken Ecke running. Unter der Network die öffentliche Adresse (Public address) Der Ausgangszustand kann sein pendingBitte warten Sie 2-5 Minuten, bis es eine neue Farbe annimmt. Bitte warten Sie 2-5 Minuten, bis es sich Available. Zu diesem Zeitpunkt ist Ihr Dienst unter dieser Adresse erreichbar.
8. (Optional) Festlegen eines benutzerdefinierten Domänennamens
   Wenn Sie mit Ihrem eigenen Domänennamen darauf zugreifen möchten, können Sie dies im Bereich Cloudflare usw., um eine CNAME Datensätze, die auf ClawCloud die angegebene öffentliche Adresse. Fügen Sie dann eine neue Adresse zum ClawCloud Fügen Sie Ihren eigenen Domänennamen in den Domäneneinstellungen des

IV. gemini-balance verwalten und überwachen

gemini-balance Bietet ein bequemes Verwaltungs-Backend für die Konfiguration und Überwachung von API-Schlüsseln.

1. Öffnen Sie Ihre bereitgestellte öffentliche Adresse in einem Browser und rufen Sie den Anmeldebildschirm auf. Geben Sie den Wert ein, den Sie in der Umgebungsvariablen ALLOWED_TOKENS Das Zugriffstoken, das in der Datei your-access-token-1), um sich anzumelden.
2. Sobald Sie angemeldet sind, können Sie dynamisch Folgendes hinzufügen oder entfernen Gemini API-Schlüssel, ohne den Dienst neu zu starten.
3. Der Verwaltungshintergrund bietet auch die Möglichkeit, den Anrufstatus jeder Taste zu überwachen, was für Sie bequem ist, um den Nutzungsstatus zu verfolgen.

V. Verwendung von Proxy-Diensten in AI-Clients

Sobald die Bereitstellung abgeschlossen ist, können Sie die Anwendung von jedem unterstützten OpenAI API-Format, um diesen Proxy-Dienst im Client zu verwenden. Nehmen Sie Cherry Studio Zum Beispiel ist es eine Multiplattform-Unterstützung AI Desktop-Client, der sich leicht integrieren lässt und zwischen verschiedenen AI Modelle.

1. Anbieter hinzufügen
   在 Cherry Studio Gehen Sie darin zu Modellanbietereinstellungen und fügen Sie einen neuen Anbieter mit einem anpassbaren Namen hinzu.
2. Konfigurieren von Schnittstelleninformationen
   • API-Schlüssel: Füllen Sie die Details der Informationen aus, die Sie in das Feld gemini-balance Umgebungsvariable ALLOWED_TOKENS Das Zugriffstoken, das in der Datei
   • API-Adresse: Ausfüllen ClawCloud Geben Sie die Adresse für den öffentlichen Zugang an und achten Sie darauf, dass Sie nicht mit der /。
3. Verwaltung und Verwendung von Modellen
   Nach dem Speichern klicken Sie auf "Verwalten" und der Client ruft automatisch die Informationen aus Ihrem gemini-balance Der Dienst ruft eine Liste der verfügbaren Modelle ab und zeigt sie an. Sie können nun das clientseitige Modell auswählen und verwenden Gemini Modell werden alle Anfragen über den von Ihnen eingerichteten Lastausgleichsdienst verteilt.