欢迎访问上海招聘网！本站为上海找工作求职者提供上海人才招聘、上海人才市场、上海人才网等岗位信息！
职位月薪： 面议
岗位职责： 1、负责搭建公司AI大模型内容安全防控体系，制定内容安全标准、风险管控策略及落地方案，保障大模型输出合规、安全。 2、负责大模型价值观与安全对齐，配合技术团队设计模型优化方案，防控生成内容中的不良导向、违规信息等风险，提升模型安全稳健性。 3、跟踪AI行业安全动态、政策法规及新型风险，挖掘大模型安全隐患，输出风险评估报告并推动迭代优化，建立风险预警机制。 4、对接算法、运营、法务等相关部门，推动安全策略落地执行，负责内容安全相关标准的更新、同步及配套设施维护。 5、处理AI大模型内容安全应急事件，制定应急处置流程，降低安全风险对业务的影响，确保大模型全场景安全应用。 任职要求： 1、3年及以上AI大模型内容安全、合规或风控相关工作经验，有头部AI企业相关经验者优先。 2、深入理解生成式AI原理，熟悉多模态大模型的风险检测等相关技术，具备安全策略设计与落地能力。 3、熟悉内容安全相关法律法规及行业规范，具备敏锐的风险预判能力，能快速识别并应对大模型新型安全风险（如越狱攻击、对抗样本等）。 4、具备较强的逻辑思维、数据分析能力及跨部门沟通协调能力，能高效推动安全策略落地，具备良好的抗压能力和问题解决能力。 5、了解AI大模型安全微调等相关技术，有大模型安全体系从0到1搭建经验者优先，对AI安全领域有强烈的探索欲和责任心。
微信扫一扫，及时了解投递状态
您目前还没有登录：立即登录岗位职责： 1、负责搭建公司AI大模型内容安全防控体系，制定内容安全标准、风险管控策略及落地方案，保障大模型输出合规、安全。 2、负责大模型价值观与安全对齐，配合技术团队设计模型优化方案，防控生成内容中的不良导向、违规信息等风险，提升模型安全稳健性。 3、跟踪AI行业安全动态、政策法规及新型风险，挖掘大模型安全隐患，输出风险评估报告并推动迭代优化，建立风险预警机制。 4、对接算法、运营、法务等相关部门，推动安全策略落地执行，负责内容安全相关标准的更新、同步及配套设施维护。 5、处理AI大模型内容安全应急事件，制定应急处置流程，降低安全风险对业务的影响，确保大模型全场景安全应用。 任职要求： 1、3年及以上AI大模型内容安全、合规或风控相关工作经验，有头部AI企业相关经验者优先。 2、深入理解生成式AI原理，熟悉多模态大模型的风险检测等相关技术，具备安全策略设计与落地能力。 3、熟悉内容安全相关法律法规及行业规范，具备敏锐的风险预判能力，能快速识别并应对大模型新型安全风险（如越狱攻击、对抗样本等）。 4、具备较强的逻辑思维、数据分析能力及跨部门沟通协调能力，能高效推动安全策略落地，具备良好的抗压能力和问题解决能力。 5、了解AI大模型安全微调等相关技术，有大模型安全体系从0到1搭建经验者优先，对AI安全领域有强烈的探索欲和责任心。
企业尚未更新
上海市
扫描二维码及时订阅职位
最新职位信息第一时间知晓
上海兼职招聘
快速入职
隐私保护
薪资透明
信息可靠
手机找工作
360行任你挑选
分秒必争直达HR
谁看我简历早知道
请使用微信【扫一扫】
关注「上海易职邦招聘」公众号完成登录
客服电话：400-765-0056
竭诚为您服务
服务时间08:00-24:00
微信公众号
招聘交流群
微信小程序
面试通知
收藏
简历
足迹
微信求职
关注公众号
掌握最新求职动态
小程序
进入小程序
随时随地找工作
收藏
已收藏
小程序
微信分享
和TA聊一聊
投个简历
您已有可投递的在线简历：
公司信息
全职 
人力资源服务 
500-999人
上海市 
给我留言
相关公司推荐
赣公网安备 36010202000584号