大模型推理优化工程师(J10578)

1. 负责公司大模型推理系统的端到端适配与调优工作； 2. 针对大模型推理系统运行过程中出现的功能性、稳定性、以及性能异常问题进行定位与解决； 3. 针对公司自研 GPU 架构优化大模型推理系统 【任职要求】 任职资格 1. 3 年及以上相关工作经历； 2. 优秀的代码能力、数据结构和基础算法功底，熟练 C/C++ 或 Python； 3. 熟悉至少一种主流的机器学习框架，如 PyTorch； 4. 熟悉至少一种主流的大模型推理框架，如 SGLang、vLLM 等； 5. 熟悉大模型服务部署及优化技术，例如动态 batching、投机预测、负载均衡等； 6. 熟悉大模型推理系统的 profile 工具使用与性能分析方法； 7. 熟悉至少一种大模型的结构，如 DeepSeek、Llama 等； 8. 熟悉 GPU 分布式推理中的常见通信原语； 9. 掌握分布式推理并行策略，包括 TP、…… 完整岗位描述与官方投递入口,请登录后在岗位详情页查看。

本站当前在招 18762 个北京岗位（全城各职能合计），其中 2681 个公开标注了薪资。按这些标注统计：月薪（税前）主流区间 7K ~ 20K（25~75 分位），中位约 10K，最低 2K、最高 300K。