8,096
// 项目简介
Higress 是一个基于 Istio 和 Envoy 构建的云原生 API 网关，支持通过使用 Go、Rust 或 JavaScript 编写的 Wasm 插件进行扩展。它为 AI 应用提供了专门的功能，包括 LLM API 的统一管理以及 Model Context Protocol (MCP) 服务器的托管。该平台最初由阿里巴巴开发，提供生产级的性能，支持高并发流量和无缝配置更新。
// 技术分析
Higress 是一个基于 Istio 和 Envoy 构建的云原生 API 网关，旨在提供高性能的流量管理，并专注于 AI 原生能力。它通过消除配置重载期间的流量抖动，并提供对 gRPC、Dubbo 和 AI 模型集成的强大支持，解决了传统网关的局限性。通过利用 Wasm 插件，该架构确保了内存安全性和可扩展性，使开发人员能够使用 Go、Rust 或 JavaScript 实现自定义逻辑，而不会中断活动连接。
// 核心亮点
01
提供了一个 AI 原生网关，支持主流 LLM 提供商，具备多模型负载均衡、Token 限流和可观测性等功能。
02
通过插件支持托管 Model Context Protocol (MCP) Servers，允许 AI Agent 安全地调用工具和服务，并实现统一认证。
03
利用基于 Wasm 的插件架构，支持网关逻辑的热更新，且不会造成流量丢失或连接中断。
04
为请求和响应体提供高性能流式处理，针对 Server-Sent Events (SSE) 等高带宽 AI 场景进行了优化。
05
作为一个功能丰富的 Ingress Controller，兼容 Nginx ingress 注解并支持 Kubernetes Gateway API。
06
与 Nacos、ZooKeeper 和 Consul 等各种服务注册中心无缝集成，适用于复杂的微服务环境。
// 典型使用场景
01
AI Gateway: 为 LLM 提供商提供统一的协议支持、可观测性、多模型负载均衡和 Token 速率限制。
02
MCP Server Hosting: 通过托管集成了身份验证、速率限制和可观测性的 MCP 服务器，使 AI Agents 能够调用工具和服务。
03
Kubernetes Ingress and Microservice Gateway: 作为高性能的 Ingress Controller 和微服务网关，与服务发现和安全协议深度集成。
// 快速开始
要开始使用 Higress，您可以使用单个 Docker 命令在本地进行部署，该命令提供了一个包含网关和 UI 控制台的一体化镜像。对于 Kubernetes 环境，您可以使用 Helm 安装该项目，并可选择配置区域镜像仓库以加快镜像拉取速度。运行后，您可以访问 8001 端口的 UI 控制台来管理您的路由、插件和 AI 网关配置。