从模型管理到 AI 网关：把资产、流量与成本串成闭环
模型管理决定谁能用什么、能用多少，AI 网关把授权和配额落实到每次请求。本文沿模型与请求的生命周期，拆解业务面、配置面和数据面的职责，以及用量回流、成本归属和模型下线之间的关系。
TAGS / 标签浏览
Gateway
围绕「Gateway」整理的文章。按发布时间浏览，也可以从专题导读选择完整的阅读路径。
文章列表
本页 8 篇大模型网关限流新思路：从进程内漏桶到分布式漏桶矩阵
读百炼网关用 RocketMQ LiteTopic 重构大模型限流的文章后，记录核心思路，并补上原文跳过的响应通道设计——消费端调模型后，流式响应怎么回到客户端。
APISIX 504 为什么总在 15 秒出现？一次 SYN 重传超时排查
线上 API7 / APISIX 网关偶发 504，请求耗时精确卡在 15 秒。本文通过超时配置追踪、内核参数分析、DNS 排除和抓包交叉验证，定位一次 SYN 重传超时问题，并说明案例适用边界。
AI 网关如何选型？协议兼容、流量治理与性能评估评分卡
面向企业模型接入层，从协议兼容、Token 与流量治理、SSE 流式处理、运行时性能和生产成熟度评估 AI 网关，提供选型评分框架与验收清单，不做具体产品排名。
多云高可用场景下云原生网关架构设计
记录多云、多 Kubernetes 集群环境中的网关架构取舍，围绕实例部署、流量就近、安全边界、故障隔离和统一管理组织设计，说明集群级网关与应用入口之间的关系。
Apache APISIX 架构分析：协程、事件驱动与 OpenResty/Envoy 底座比对
分析 Apache APISIX 的高性能架构，重点介绍事件驱动、协程、LuaJIT、OpenResty 等核心设计及其与 Envoy 的差异。
南北入口网关选型
面向国内外混合云环境的南北向入口网关选型实践，从部署形态、流量治理、扩展能力和运维复杂度等方面对比Istio、Envoy等方案。
构建高效业务网关:基于Gin与ReverseProxy的实现方案
基于Golang、Gin和ReverseProxy构建高效业务网关，实现路由热加载、反向代理、权限控制等功能。