Kernkompetenzen des dezentralen Netzes Chutes
Chutes basiert auf einer dezentralen Architektur auf der Grundlage des Bittensor-Netzwerks und stellt die Weiterentwicklung der nächsten Generation von KI-Computing-Infrastrukturen dar. Im Gegensatz zu herkömmlichen zentralisierten Cloud-Diensten stammen die Rechenressourcen der Plattform von einem weltweiten Netzwerk unabhängiger GPU-Anbieter. Dieses Konzept schafft durch drei Mechanismen einen Mehrwert: Der Mechanismus zur Ausschreibung von Ressourcen sorgt für eine kontinuierliche Optimierung der Rechenkosten; die verteilte Bereitstellung von Knoten verbessert die Widerstandsfähigkeit des Systems gegenüber regionalen Ausfällen; und die Blockchain-Technologie gewährleistet eine transparente Abrechnung.
In Bezug auf die Leistungsindikatoren weist die dezentrale Architektur offensichtliche Vorteile auf: Die Latenzzeit für Schlussfolgerungen wird um 30-50 ms verringert, die Kosten pro TFLOPS-Einheit werden um etwa 25% gesenkt, und die Gesamtverfügbarkeit des Systems wird auf 99,99% verbessert. Die Plattform entwickelt TEE-basierte vertrauliche Datenverarbeitungsfunktionen, um den Schutz der Privatsphäre weiter zu verbessern.
In einem typischen Anwendungsszenario kann die Rechenanforderung eines europäischen Nutzers von nordamerikanischen und asiatischen Knoten mit bedient werden, eine geografisch verteilte Antwort, die sowohl GDPR-konform ist als auch die Qualität der Dienste sicherstellt. Da die Anzahl der Netzwerkknoten weiter wächst, werden die marginalen Vorteile dieser Architektur immer bedeutender.
Diese Antwort stammt aus dem ArtikelChutes: eine Serverless-Computing-Plattform für die Bereitstellung und Skalierung von Open-Source-KI-ModellenDie
Deutsch 
简体中文 
English 
日本語 
Português do Brasil