推理部署

【岗位职责】 1 负责AI模型在生产环境中的高效推理部署，优化模型推理性能（延迟、吞吐量、资源利用率等）。 2 设计并实现分布式推理架构，支持高并发、低延迟的实时推理服务。 3 与算法团队协作，完成模型压缩、量化、剪枝等优化，提升模型在边缘端/云端部署的可行性。 4 监控推理服务稳定性，定位并解决线上性能瓶颈和故障问题。 5 探索新兴推理框架（如TensorRT、ONNX Runtime等）在生产环境的应用落地。 【任职要求】 职位要求 1 精通Python/C++，熟悉深度学习框架（PyTorch/TensorFlow），了解模型部署全流程（训练→优化→部署）。 2 熟悉Linux系统调优、Docker容器化、Kubernetes集群管理。 3 具备分布式系统设计经验，熟悉RPC、消息队列等技术。 4 了解GPU/TPU加速推理原理，掌握CUDA/OpenCL等并行计算技术。 ​工程能…… 完整岗位描述与官方投递入口,请登录后在岗位详情页查看。

本站当前在招 404 个上海生产制造岗位，其中 32 个公开标注了薪资。按这些标注统计：月薪（税前）主流区间 6.5K ~ 15K（25~75 分位），中位约 10K，最低 4K、最高 30K。