端侧NPU大模型推理框架开发工程师(J11137)

1、负责端侧推理框架的迭代、NPU适配与落地优化，聚焦嵌入式/车载边缘NPU平台，专注大模型（LLM/VLM）端侧部署场景，保障模型推理高效、稳定运行。 2、负责推理框架核心能力定制开发与性能优化，涵盖模型解析、计算图优化、内存/推理调度、量化推理适配等核心模块，解决端侧设备算力有限、显存受限、时延敏感等大模型落地核心问题。 3、对接大模型量化与轻量化流程，适配PTQ、QAT量化方案及剪枝、蒸馏、稀疏化等压缩技术，平衡大模型端侧推理精度与性能。 4、主打端侧NPU平台适配调优，针对各类大模型、Transformer架构模型，完成推理框架移植适配、访存优化、推理策略迭代，持续提升推理吞吐、降低推理时延与内存占用。 5、搭建端侧大模型推理性能、精度、稳定性评测体系，持续优化显存占用、推理延迟、功耗等核心指标，支撑大模型规模化端侧落地交付。 6、跟进端侧大模型推理前沿技术，落地轻量化、高性能推理…… 完整岗位描述与官方投递入口,请登录后在岗位详情页查看。

本站当前在招 22528 个上海岗位（全城各职能合计），其中 2290 个公开标注了薪资。按这些标注统计：月薪（税前）主流区间 8.4K ~ 20K（25~75 分位），中位约 12K，最低 0.8K、最高 120K。