大模型高性能推理研发工程师/专家

我们是小红书中台大模型 Infra 团队，专注打造领先易用的「AI 大模型全链路基础设施」！团队深耕大模型「数-训-压-推-评」技术闭环，在大模型训练加速、模型压缩、推理优化、部署提效等方向积累了深厚的技术优势，基于 RedAccel 训练引擎、RedSlim 压缩工具、RedServing 推理部署引擎、DirectLLM 大模型 API 服务、QuickSilver 大模型生产部署平台等核心产品，持续赋能社区、商业、交易、安全、数平、研效等多个核心业务，实现 AI 技术高效落地！ 工作职责： 推理框架研发： 参与 rLLM 推理框架研发，支撑 LLM、MLLM、DiT 等模型的高性能在线推理。 分布式推理能力建设： 参与 KV Router、PD 分离 / EPD 分离、KV Cache 管理、Prefix Cache 复用、动态请求调度等核心能力建设。 推理性能优化： 围绕 TTF…… 完整岗位描述与官方投递入口,请登录后在岗位详情页查看。

本站当前在招 18762 个北京岗位（全城各职能合计），其中 2681 个公开标注了薪资。按这些标注统计：月薪（税前）主流区间 7K ~ 20K（25~75 分位），中位约 10K，最低 2K、最高 300K。