Higress 是一款基于 Istio 和 Envoy 构建的 AI 原生 API 网关,支持通过 Go/Rust/JS 编写的 Wasm 插件进行扩展,专为企业级 AI Agent 开发和 LLM API 管理而设计。核心能力包括:多模型灵活切换与自动兜底重试、大模型内容安全与合规审查、语义化缓存降低调用成本、多 API Key 负载均衡、Token 配额管理与限流、AI 流量灰度发布,以及调用成本审计。无论是构建 AI Agent 平台还是管理复杂的 LLM API 基础设施,Higress 都能提供企业级的稳定性与可控性。
评论
正在加载评论…