衣舞晨风

AI Gateway、Elasticsearch 与后端架构实践

生产 AI 网关升级后出现流式请求偶发 500、单节点多个 worker 接近满载但流量不高。通过对照实验、监控相位分析、依赖 diff 与 perf 热点交叉验证,最终定位到 SSE 刷新误判断连和 Prometheus key-index 回归,并发现 56 节点存在 powersave 调频差异。

阅读全文 »
0%