大模型与 AI应用安全工程师

【岗位职责】 1. 负责蔚来自研大模型内容安全的评估和对齐，确保安全合规；参与智能体安全治理和技术方案设计，包括不限于智能体统一安全管理、智能体安全评测、智能体运行时风险检测和防御、智能体行为审计和风险溯源； 2. 负责智能体运行时安全检测和防御原子能力的构建。基于智能体的应用场景和功能描述，设计风险检测策略和防御方案，风险检测不限于提示词注入、工具滥用、越权、行为异常等，防御不限于运行时拦截、提示词安全改写、行为约束、安全代答、工具调用鉴权、执行沙箱等； 3. 负责智能体业务系统的安全管理。负责安全case反馈收集和事件处置、安全指标（漏报/误报）的归因分析、在线检测和防御策略的迭代优化等，保证智能体业务系统安全运行。 【任职要求】 1. 本科以上学历，有ai for security或者security for ai的相关工作经验 2. 对大模型安全的合规要求比较熟悉以及评估系统的构…… 完整岗位描述与官方投递入口,请登录后在岗位详情页查看。

本站当前在招 22528 个上海岗位（全城各职能合计），其中 2290 个公开标注了薪资。按这些标注统计：月薪（税前）主流区间 8.4K ~ 20K（25~75 分位），中位约 12K，最低 0.8K、最高 120K。