AI 网关如何选型?协议兼容、流量治理与性能评估评分卡
面向企业模型接入层,从协议兼容、Token 与流量治理、SSE 流式处理、运行时性能和生产成熟度评估 AI 网关,提供选型评分框架与验收清单,不做具体产品排名。
面向企业模型接入层,从协议兼容、Token 与流量治理、SSE 流式处理、运行时性能和生产成熟度评估 AI 网关,提供选型评分框架与验收清单,不做具体产品排名。
复盘 API7 / APISIX AI 网关的 CPU 饱和问题,从协程、流式背压和运行时行为寻找代码逻辑之外的盲区。记录如何借助 AI 扩展排查假设,再用源码、PR、实验和监控约束结论。
记录 APISIX 中 Anthropic 与 OpenAI 兼容协议转换插件的开发过程,围绕流式响应、思考、工具调用和多模态准备测试场景,结合参考实现与 AI 辅助开发验证转换行为。
2025年工作聚焦大模型全生命周期管理和多云高可用云原生网关;考取大数据系统开发中级职称和系统架构设计师高级证书。
记录多云、多 Kubernetes 集群环境中的网关架构取舍,围绕实例部署、流量就近、安全边界、故障隔离和统一管理组织设计,说明集群级网关与应用入口之间的关系。
分析 Apache APISIX 的高性能架构,重点介绍事件驱动、协程、LuaJIT、OpenResty 等核心设计及其与 Envoy 的差异。
面向国内外混合云环境的南北向入口网关选型实践,从部署形态、流量治理、扩展能力和运维复杂度等方面对比Istio、Envoy等方案。
记录 Go HTTP Client 出现大量 TIME_WAIT 和短连接的一次排查,沿请求代码、响应体处理与连接生命周期分析复用问题,再讨论 Transport 配置和调优时需要考虑的负载条件。
B端商城业务场景下,接口毛刺严重,耗时主要集中在ES查询。本文记录一次复杂的DSL优化过程,从问题定位到优化方案落地。
复盘 Elasticsearch 集群因索引和分片数量失控、mmap 与本地内存压力导致写入超时和集群变红的事故:从 hs_err 日志定位 native memory 分配失败,并用 allocation explain 救回未分配的 shard。