K8s 运维开发（云原生方向）· 稳定性与资源效率方向

1、统一模型服务入口建设：OpenAI 兼容协议网关（/v1/chat/completions、SSE 流式、Function Calling、API 版本管理）、API Key 全生命周期管理与多租户鉴权、配额与计量； 2、智能路由与流量治理：基于实时推理指标（并发数、排队长度、KV Cache 水位、TTFT/TPOT、前缀命中率）的动态路由，替代简单轮询与随机；Token 级限流、请求排队与超时控制、Fallback 降级链、跨云故障切换与重试； 3、请求亲和调度：基于 Prefix Cache / 会话粘性的亲和路由，最大化缓存命中率、降低首 Token 延迟； 4、多模型协同编排：一次交互串联多个模型时的级联调度与端到端 SLO 保障； 5、弹性伸缩与 PD 分离：面向推理负载特征的 HPA/KPA、Scale-to-Zero 与冷启动优化；Prefill-Decode 分离架构…… 完整岗位描述与官方投递入口,请登录后在岗位详情页查看。

本站当前在招 2674 个上海技术研发岗位，其中 300 个公开标注了薪资。按这些标注统计：月薪（税前）主流区间 15K ~ 25K（25~75 分位），中位约 20K，最低 4K、最高 100K。