内容安全策略专家（AI方向）

1、负责搭建公司AI大模型内容安全防控体系，制定内容安全标准、风险管控策略及落地方案，保障大模型输出合规、安全。 2、负责大模型价值观与安全对齐，配合技术团队设计模型优化方案，防控生成内容中的不良导向、违规信息等风险，提升模型安全稳健性。 3、跟踪AI行业安全动态、政策法规及新型风险，挖掘大模型安全隐患，输出风险评估报告并推动迭代优化，建立风险预警机制。 4、对接算法、运营、法务等相关部门，推动安全策略落地执行，负责内容安全相关标准的更新、同步及配套设施维护。 5、处理AI大模型内容安全应急事件，制定应急处置流程，降低安全风险对业务的影响，确保大模型全场景安全应用。 【任职要求】 1、3年及以上AI大模型内容安全、合规或风控相关工作经验，有头部AI企业相关经验者优先。 2、深入理解生成式AI原理，熟悉多模态大模型的风险检测等相关技术，具备安全策略设计与落地能力。 3、熟悉内容安全相关法律…… 完整岗位描述与官方投递入口,请登录后在岗位详情页查看。

本站当前在招 22528 个上海岗位（全城各职能合计），其中 2290 个公开标注了薪资。按这些标注统计：月薪（税前）主流区间 8.4K ~ 20K（25~75 分位），中位约 12K，最低 0.8K、最高 120K。