AI端侧推理优化工程师(J10738)

岗位职责 1. 负责端侧大模型推理框架（如vLLM、llama.cpp、MNN等）的性能优化与加速，提升吞吐与降低延迟。 2. 负责端侧语音、Embedding、OCR、AIGC、自动驾驶等模型在推理框架（如ONNXRuntime、MNN等）中的性能调优与部署适配。 3. 与算子团队、编译器团队紧密协作，共同完成端侧高性能推理框架的集成、验证与交付。 4. 深入分析推理链路性能瓶颈，设计并实现系统级优化方案，推动框架在真实场景中的高效稳定运行。 【任职要求】 任职要求 1. 精通核心框架：熟练掌握vLLM、llama.cpp、ONNXRuntime等至少一种主流推理框架的架构、工作机制与源码。 2. 掌握大模型优化技术：熟练掌握大模型推理的关键加速方法与技术（如Flash Attention、Paged Attention、Speculative Decoding、Continuous …… 完整岗位描述与官方投递入口,请登录后在岗位详情页查看。

本站当前在招 18762 个北京岗位（全城各职能合计），其中 2681 个公开标注了薪资。按这些标注统计：月薪（税前）主流区间 7K ~ 20K（25~75 分位），中位约 10K，最低 2K、最高 300K。