SambaNova Systems ist ein Unternehmen, das sich der Revolutionierung von KI-Workloads verschrieben hat und die weltweit schnellste KI-Inferenzplattform anbietet. Seine Produkte, darunter die SambaNova Suite und DataScale-Systeme, wurden für Unternehmen und Behörden entwickelt, um effiziente, genaue und sichere KI-Lösungen bereitzustellen. Die Innovationen von SambaNova, wie die rekonfigurierbare Data Streaming Unit (RDU) SN40L, verschaffen dem Unternehmen einen erheblichen Vorteil beim Training und der Inferenz von KI-Modellen.
API-Limit für das freie Modell: 20 RPM (Anfragen pro Minute), das Token-Limit liegt sicher bei 2000.
Funktionsliste
- KI-Inferenz- und Feinabstimmungsplattform auf der Grundlage einer Datenflussarchitektur
- Integriertes SambaStudio für die Entwicklung und Verwaltung von AI-Modellen
- Unterstützung für mehrere generative KI-Modelle (z. B. Llama 3.1 8B, 70B, 405B)
- Unternehmensweite Wissenssuche und Funktionsaufrufe bereitstellen
- Unterstützt den schnellen Einsatz von generativen KI-Modellen in großem Maßstab
- Bietet leistungsstarke KI-Hardware mit niedriger Latenz (SN40L RDU)
- Unterstützt lokale und Cloud-Bereitstellung
Hilfe verwenden
Einbauverfahren
- Klon-Lager
git clone https://github.com/sambanova/sambanova-suite.git - Zugriff auf den Lagerkatalog
cd sambanova-suite - Installation von Abhängigkeiten
npm install - Setzen von Umgebungsvariablen
Erstellen einer.env.localund stellen Sie Folgendes ein:SAMBANOVA_API_KEY=你的SambaNova API密钥 - Starten des Entwicklungsservers
npm run dev - Erstellung von Webanwendungen
npm run build
Verwendungsfunktionen
- API-SchlüsselverwaltungAPI-Schlüssel: Geben Sie den von SambaNova oder einem anderen Anbieter erhaltenen API-Schlüssel in das API-Menü ein.
- Konfiguration der Umgebungsvariablen: durch
.env.localDatei, um Umgebungsvariablen wie API-Schlüssel, Website-Domäne usw. zu konfigurieren. - Lokale Speicherung und SynchronisierungUnterstützt die automatische Speicherung von Daten im lokalen Speicher und die Synchronisierung mit der Cloud.
- Desktop-AnwendungBietet Desktop-Anwendungen zum Herunterladen für Windows, MacOS und Linux mit Offline-Unterstützung.
- Maßgeschneiderte ModellparameterUnterstützt die Anpassung von Modellparametern wie z.B.
presence_penaltyusw., um den unterschiedlichen Nutzungsanforderungen gerecht zu werden. - Chat Records ManagementUnterstützt das Bearbeiten, Neuordnen und Einfügen von Nachrichten und erleichtert so die Verwaltung von Chats.
Deutsch 
简体中文 
English 
日本語 
Português do Brasil