从模型管理到 AI 网关：把资产、流量与成本串成闭环
本文分两条主线展开：一条是模型管理与模型资产，回答模型从哪来、给谁用、何时退出；一条是 AI 网关，把授权与配额落实到每一次请求的鉴权、限流、选路和用量回传。两条线靠配额、配置与反馈闭环咬合在一起。
TAGS / 标签浏览
Rate Limiting
围绕「Rate Limiting」整理的文章。按发布时间浏览，也可以从专题导读选择完整的阅读路径。
文章列表
本页 2 篇大模型网关限流新思路：从进程内漏桶到分布式漏桶矩阵
读百炼网关用 RocketMQ LiteTopic 重构大模型限流的文章后，记录核心思路，并补上原文跳过的响应通道设计——消费端调模型后，流式响应怎么回到客户端。