Multiplikation von Gemini API Free Credits mit Load Balancing
Google bietet Entwicklern eine großzügige Gemini
Kostenlose API-Nutzungsrechte durch Google AI Studio
Es ist einfach, einen API-Schlüssel zu erhalten. Kostenlose Pakete enthalten in der Regel ein Minutenlimit und eine tägliche Gesamt Token Anrufvolumen. Obwohl die Anzahl eines einzelnen Schlüssels begrenzt ist, können Sie durch die Registrierung verschiedener Konten zur Beantragung mehrerer Schlüssel und mit Hilfe von Lastausgleichswerkzeugen diese Begrenzung effektiv durchbrechen und die Anzahl vervielfachen.
In diesem Artikel werden wir Folgendes vorstellen gemini-balance
Ein Programm, das Folgendes vorsieht Google Gemini
API bietet Proxy- und Lastausgleichsfunktionen für die Anwendung. Dieses Projekt wurde entwickelt von dem Entwickler snailyp
Erstellt, basierend auf Python FastAPI
Builds, die es den Nutzern ermöglichen, mehrere Gemini
API-Schlüssel für Polling, Authentifizierung, Modellfilterung und Zustandsüberwachung.
Wir werden das mit einem kostenlosen ClawCloud
Containerdienste zum Einsatz gemini-balance
Dies ermöglicht die Schaffung einer stabilen, proxyfreien Lösung, die mehrere Gemini
Eine persönliche, proprietäre Schnittstelle für API-Schlüssel.
- Adresse des Projekts. https://github.com/snailyp/gemini-balance
- Dokumentation über den Einsatz. https://gb-docs.snaily.top/guide/setup-clawcloud-sqlite.html
I. Bereiten Sie mehrere Gemini-API-Schlüssel vor
gewinnen Gemini
API-Schlüssel sind eine Voraussetzung für die Bereitstellung von Diensten.
- Interviews
Google AI Studio
Bewerbungsseite: https://aistudio.google.com/ - Melden Sie sich mit Ihrem Google-Konto an und erstellen Sie einen API-Schlüssel.
- Falls erforderlich, können Sie sich bei mehreren verschiedenen Google-Konten registrieren und anmelden und diesen Vorgang wiederholen, um mehrere separate API-Schlüssel zu erhalten.
Registrieren Sie sich für ein ClawCloud-Konto
ClawCloud
ist eine 2024 gegründete Cloud-Computing-Plattform mit Hauptsitz in Singapur, die sich auf leistungsstarke Cloud-Infrastrukturdienste für Entwickler spezialisiert hat. Sein ClawCloud Run
ist ein Platform-as-a-Service (PaaS)-Angebot, das den Prozess der Anwendungsbereitstellung erheblich vereinfacht. Für Benutzer, die seit mehr als 180 Tagen auf Github registriert sind, ist dieClawCloud
Eine monatliche Spende von 5 Dollar reicht aus, um die gemini-balance
Laufender Betrieb des Projekts.
- Interviews
ClawCloud
offiziellen Website und verwenden Sie IhreGitHub
Konto-Login. - Nach dem Einloggen können Sie im Benutzerzentrum des
Account Center
Sie können den monatlichen geschenkten Betrag sowie den aktuellen Verbrauch einsehen.
Einsatz von gemini-balance in ClawCloud
Als Nächstes werden wir die ClawCloud Run
zum Einsatz in Containern gemini-balance
.
- Serverregion auswählen
existierenClawCloud
klicken Sie auf die linke obere Ecke des FenstersRegion
Empfohlene WahlmöglichkeitenSingapore
. Vergewissern Sie sich nach dem Aktualisieren der Seite, dass der Bereich mit einem Häkchen versehen ist. - Anwendungen erstellen
Streik (auf der Tastatur)App Launchpad
und klicken Sie dann auf die obere rechte Ecke der SeiteCreate App
Rufen Sie die Seite Anwendungskonfiguration auf. - Anwendungsparameter konfigurieren
Auf der Konfigurationsseite geben Sie die Parameter wie unten beschrieben ein:- Bild Name:
ghcr.io/snailyp/gemini-balance:latest
- Name der Anwendung:
geminibalance
(oder welchen Namen Sie auch immer bevorzugen) - Bild:
Public
- Verwendung:
Fixed
- Replikate:
1
- CPU:
1
- Speicher:
512
Hinweis: Diese Konfiguration gilt für das kostenlose Kontingent, das 10 G kostenlosen Datenverkehr pro Monat bietet. - Netzwerk
- Containerhafen:
8000
- Internet freigeben: Tippen Sie als
Access
Stand der Dinge
- Containerhafen:
- Bild Name:
- Umgebungsvariablen konfigurieren
existierenAdvanced Configura
->Environment Variables
Abschnitt, klicken Sie auf denAdd
fügen Sie die folgenden Variablen hinzu. wobeiAPI_KEYS
im Gesang antwortenALLOWED_TOKENS
Er muss durch Ihren eigenen Schlüssel und Ihr eigenes Zugangstoken ersetzt werden.DATABASE_TYPE=sqlite SQLITE_DATABASE=default_db API_KEYS=["YOUR_GEMINI_API_KEY_1","YOUR_GEMINI_API_KEY_2"] ALLOWED_TOKENS=["YOUR_ACCESS_TOKEN_1"] AUTH_TOKEN= TZ=Asia/Shanghai
Variable Beschreibung.
Variablenname | Anweisungen | Format und Beispiele |
---|---|---|
API_KEYS |
Zwillings-API Schlüsselverzeichnis für den Lastausgleich | ["key-1","key-2"] |
ALLOWED_TOKENS |
Liste der Berechtigungstoken, die für den Zugriff auf diesen Dienst zugelassen sind | ["token-1","token-2"] |
AUTH_TOKEN |
(Optional) Superadministrator-Token mit allen Rechten. Wenn nicht ausgefüllt, wird standardmäßig das ALLOWED_TOKENS Der erste Wert der |
sk-123456 |
- Konfiguration Speicherung
Streik (auf der Tastatur)Add Storage
wie in der Abbildung dargestellt, wird der Container von/app/db
Pfad eingehängt wird, um die Daten dauerhaft zu speichern. - Bereitstellung von Anwendungen
Kehren Sie zum Anfang der Seite zurück und klicken Sie aufDeploy Application
. Wählen Sie im Bestätigungs-Pop-up-FensterYes
. - Einsatzstatus prüfen
Nachdem Sie einige Sekunden gewartet haben, springt die Seite zum Bildschirm mit dem Bewerbungsstatus. Bitte vergewissern Sie sich, dass in der oberen linken Eckerunning
. Unter derNetwork
die öffentliche Adresse (Public address
) Der Ausgangszustand kann seinpending
Bitte warten Sie 2-5 Minuten, bis es eine neue Farbe annimmt. Bitte warten Sie 2-5 Minuten, bis es sichAvailable
. Zu diesem Zeitpunkt ist Ihr Dienst unter dieser Adresse erreichbar. - (Optional) Festlegen eines benutzerdefinierten Domänennamens
Wenn Sie mit Ihrem eigenen Domänennamen darauf zugreifen möchten, können Sie dies im BereichCloudflare
usw., um eineCNAME
Datensätze, die aufClawCloud
die angegebene öffentliche Adresse. Fügen Sie dann eine neue Adresse zumClawCloud
Fügen Sie Ihren eigenen Domänennamen in den Domäneneinstellungen des
IV. gemini-balance verwalten und überwachen
gemini-balance
Bietet ein bequemes Verwaltungs-Backend für die Konfiguration und Überwachung von API-Schlüsseln.
- Öffnen Sie Ihre bereitgestellte öffentliche Adresse in einem Browser und rufen Sie den Anmeldebildschirm auf. Geben Sie den Wert ein, den Sie in der Umgebungsvariablen
ALLOWED_TOKENS
Das Zugriffstoken, das in der Dateiyour-access-token-1
), um sich anzumelden. - Sobald Sie angemeldet sind, können Sie dynamisch Folgendes hinzufügen oder entfernen
Gemini
API-Schlüssel, ohne den Dienst neu zu starten. - Der Verwaltungshintergrund bietet auch die Möglichkeit, den Anrufstatus jeder Taste zu überwachen, was für Sie bequem ist, um den Nutzungsstatus zu verfolgen.
V. Verwendung von Proxy-Diensten in AI-Clients
Sobald die Bereitstellung abgeschlossen ist, können Sie die Anwendung von jedem unterstützten OpenAI
API-Format, um diesen Proxy-Dienst im Client zu verwenden. Nehmen Sie Cherry Studio
Zum Beispiel ist es eine Multiplattform-Unterstützung AI
Desktop-Client, der sich leicht integrieren lässt und zwischen verschiedenen AI
Modelle.
- Anbieter hinzufügen
existierenCherry Studio
Gehen Sie darin zu Modellanbietereinstellungen und fügen Sie einen neuen Anbieter mit einem anpassbaren Namen hinzu. - Konfigurieren von Schnittstelleninformationen
- API-Schlüssel: Füllen Sie die Details der Informationen aus, die Sie in das Feld
gemini-balance
UmgebungsvariableALLOWED_TOKENS
Das Zugriffstoken, das in der Datei - API-Adresse: Ausfüllen
ClawCloud
Geben Sie die Adresse für den öffentlichen Zugang an und achten Sie darauf, dass Sie nicht mit der/
.
- API-Schlüssel: Füllen Sie die Details der Informationen aus, die Sie in das Feld
- Verwaltung und Verwendung von Modellen
Nach dem Speichern klicken Sie auf "Verwalten" und der Client ruft automatisch die Informationen aus Ihremgemini-balance
Der Dienst ruft eine Liste der verfügbaren Modelle ab und zeigt sie an. Sie können nun das clientseitige Modell auswählen und verwendenGemini
Modell werden alle Anfragen über den von Ihnen eingerichteten Lastausgleichsdienst verteilt.