Das von UniAPI eingesetzte intelligente Unterbrechersystem ist eine Schlüsselkomponente der Hochverfügbarkeitsarchitektur. Das System schützt die Back-End-Dienste durch eine mehrstufige Fusionsstrategie: Wenn ein API-Endpunkt dreimal hintereinander ausfällt, wird das Senden von Anfragen an diesen Knoten automatisch für 5 Minuten unterbrochen; wenn die Anzahl der Ausfälle 4 erreicht, wird die Fusionszeit auf 10 Minuten verlängert; und wenn die kumulative Anzahl der Ausfälle 9 erreicht, wird der Knoten für 48 Stunden unter Quarantäne gestellt.
Dieser abgestufte Schutzmechanismus hat drei wesentliche Vorteile: 1) eine angemessene Wiederherstellungszeit für den ausgefallenen Dienst, 2) die Vermeidung einer Verlangsamung der Reaktion des Gesamtsystems durch den ausgefallenen Knoten und 3) die Vermeidung von Kaskadenausfällen aufgrund der Nichtverfügbarkeit einzelner Dienste. Tatsächliche Betriebsdaten zeigen, dass dieser Mechanismus die Gesamtsystemverfügbarkeit von 99% auf 99,9% erhöhen kann.
Besonders erwähnenswert ist, dass das System während eines Zusammenbruchs automatisch zu anderen verfügbaren Dienstanbietern wechselt, wodurch sichergestellt wird, dass die Endnutzer keinen abnormalen Zustand des Backend-Dienstes wahrnehmen. Diese nahtlose Umschaltmöglichkeit ist ein wichtiges Merkmal, das UniAPI den einfachen API-Gateway-Produkten überlegen macht.
Diese Funktion eignet sich besonders für den Finanzsektor, die Medizintechnik und andere Branchen, die strenge Anwendungsszenarien für die Systemstabilität erfordern.
Diese Antwort stammt aus dem ArtikelUniAPI: Vereinheitlichte serverbasierte Verwaltung der Weiterleitung großer Modell-APIsDie
