Higressはアリババが開発したクラウドネイティブなAPIゲートウェイで、IstioとEnvoyをベースに構築され、効率的なトラフィックスケジューリング、サービスガバナンス、セキュリティソリューションを提供するように設計されている。複数のプログラミング言語に対応したWasmプラグイン拡張機能をサポートしており、AIビジネス、マイクロサービス、Kubernetes Ingressなど様々なシナリオに適しており、高いユーザビリティと使いやすさを備えている。
機能一覧
- AIゲートウェイマルチモデルのロードバランシング、AIトークンのフロー制御、AIキャッシングなどをサポート。
- Kubernetes Ingress GatewayK8s Nginx Ingressアノテーションと互換性があり、Ingress APIからGateway APIへのスムーズな移行をサポートします。
- マイクロサービスゲートウェイNacos、ZooKeeper、Consul、Eurekaなどの様々なレジストリをサポートし、Dubbo、Nacos、Sentinelなどの技術スタックを統合。
- セーフティゲートウェイWAF機能を提供し、key-auth、hmac-auth、jwt-authなどの複数の認証および認証ポリシーをサポートします。
- プラグイン拡張機能Wasm、Lua、その他のプラグイン拡張機構をサポートし、プラグインをリアルタイムにホットアップデートできます。
- ストリーミング大帯域幅のシナリオのために、リクエスト/レスポンス・ボディの完全ストリーミングをサポート。
- コンソールGrafanaとPrometheusのオブザーバビリティ統合をサポートした、すぐに使えるUIコンソールを提供します。
ヘルプの使用
設置プロセス
- Dockerのインストール：
- 実用的なカタログを作成する：
mkdir higress; cd higress - ヒグレス開始：
docker run -d --rm --name higress-ai -v ${PWD}:/data -p 8001:8001 -p 8080:8080 -p 8443:8443 higress-registry.cn-hangzhou.cr.aliyuncs.com/higress/all-in-one:latest - 港の説明
- ポート 8001：Higress UI コンソールポータル
- ポート8080：ゲートウェイHTTPプロトコルポータル
- ポート 8443：ゲートウェイ HTTPS プロトコルポータル
- 実用的なカタログを作成する：
- Kubernetesのインストール：
- Helmを使ったデプロイメント：公式サイトのクイックスタートドキュメントを参照。
機能操作ガイド
- AIゲートウェイの特徴：
- 統一されたプロトコルを介して、国内外のすべてのLLMモデルベンダーとインターフェイス。
- AIトークンのフロー制御とAIキャッシュを設定し、AIサービスの安定性と効率を向上させる。
- Kubernetes Ingress Gateway：
- K8s Nginx Ingressアノテーションと互換性があり、Ingress APIからGateway APIへのスムーズな移行をサポートします。
- Nacos/ZooKeeper などのレジストリをサポートするように、K8s Service のサービス検出を設定します。
- マイクロサービスゲートウェイ：
- 複数のレジストリをドッキングし、サービス・ディスカバリーとロード・バランシングのためのルーティング・ルールを設定する。
- Dubbo、Nacos、Sentinel、その他の技術スタックを統合し、マイクロサービス管理の効率を向上させる。
- セーフティゲートウェイ：
- アプリケーションを攻撃から守るためにWAFルールを設定する。
- 複数の認証と認証ポリシーをサポートし、アクセスのセキュリティを確保します。
- プラグイン拡張機能：
- ゲートウェイの機能を拡張するために、WasmやLuaなどを使ってプラグインを書く。
- プラグインをリアルタイムでホットアップデートし、ビジネスの中断を防ぎます。
- ストリーミング：
- ストリーミング処理リクエスト/レスポンスボディをサポートし、大帯域幅のシナリオに適しています。
- SSEのようなストリーミング・プロトコルのメッセージ処理をカスタマイズする。
- コンソール操作：
- ゲートウェイのコンフィギュレーションと管理のためのHigress UIコンソールにアクセスします。
- GrafanaおよびPrometheusとの統合による観測可能性のモニタリング。
