欢迎访问上海招聘网!本站为上海找工作求职者提供上海人才招聘、上海人才市场、上海人才网等岗位信息!

网站地图
上海招聘网

上海站[切换城市]
  • 职位
    • 公司
    • 职位
  • 上海招聘网 www.shrszp.net 提示:

    确认
    上海招聘网 上海招聘网 > 招聘列表 > 招聘详情 >

    大模型训推平台开发工程师

    大模型训推平台开发工程师

    职位月薪:面议

    大模型训推平台开发工程师

    职位月薪: 面议

    • 岗位类别:
    • 招聘类型: 全职
    • 工作经验: 10年以上
    • 工作地点: 上海市
    • 学历要求: 本科
    • 招聘人数: 1人
      福利待遇:
    • 五险一金
    • 优质平台
    • 法定节假日休息
    • 年终奖

    收藏 收藏 小程序 小程序 岗位分享 微信分享

    聊一聊 和TA聊一聊  投递简历 投个简历

    联系方式

    联系人:上海米哈游网络科技股份有限公司

    联系电话:152****5633

    点击查看
    打电话联系前先投递一份简历,面试成功率提高60%!

    (联系我时,请说是在上海易职邦上看到的)

    职位描述

    岗位职责: 1. NVL72 内部 GPU 拓扑(机柜内 NVLink fabric、Compute tray ↔ NVSwitch tray 关系、跨柜 rail)的发现、上报与节点标签化 2. K8s 调度器(Volcano 二次开发 + kube-scheduler framework)的 GB300 rail-aligned 调度策略、Gang Scheduling 适配、跨柜 binpack / spread 策略实现与上线 3. 训练任务启动器(Launcher)的 NVL72 拓扑注入、ENV 配置、`NCCL_TOPO_FILE` 自动生成 4. Megatron-LM / DeepSpeed / PyTorch FSDP 在 NVL72 单机柜内的并行策略最佳实践(TP / PP / DP 切分边界与 NVLink 域对齐) 5. NCCL 在 NVL72 内部高带宽(NVLink 5)+ 跨柜 RDMA 混合拓扑下的深度调优:算法选择(ring / tree / NVLS)、QP 数、buffer 大小、IB HCA 绑定 6. 训练框架与 NCCL 的代码级 patch、问题上游回报与社区跟进 7. NVL72 故障域(机柜级 NVLink down、NVSwitch tray 故障、Compute tray 故障)下的训练任务断点续训、整体重试与节点替换语义 8. 训练任务级慢卡 / 慢柜检测:在 all-reduce 时延、step time、GPU SM/Mem 利用率等多维度做联合识别 9. 与 Operator 组、硬件运维 GB300 专项组配合落地"机柜级故障 → 节点替换 → 训练续跑"端到端链路 任职要求: - 计算机科学与技术、软件工程、人工智能等相关专业,本科及以上学历 - 5 年以上分布式训练系统或 K8s 平台研发经验 - **K8s 调度**:精通 kube-scheduler framework / scheduler plugins 机制,**具备 Volcano 二次开发实战经验**(Kueue / YuniKorn 等其他调度器有同等深度经验者亦可,但需对 Volcano 源码有独立阅读能力),理解 Gang Scheduling、队列、拓扑感知调度的实现 - **分布式训练框架**:精通 Megatron-LM / DeepSpeed / PyTorch FSDP 中至少一个的内部机制(数据并行 / 张量并行 / 流水并行实现、通信图、checkpoint 机制),具备千卡级训练任务调优实战经验 - **通信库**:深入理解 NCCL 内部(拓扑发现、ring / tree / NVLS 算法、QP 与 buffer 管理),具备 NCCL 参数调优与代码阅读能力 - **GPU 互连**:熟悉 NVLink / NVSwitch / Fabric Manager 工作机制,理解 NVLink 域概念及其对训练并行策略的影响 - **RDMA**:熟悉 RoCE / IB 协议栈基本概念(PFC / ECN / QP) - **编程语言**:精通 Go 与 Python,其中 Go 需具备独立开发 K8s 控制器或调度器插件的能力 - 良好的工程素养与跨团队协作能力,能够主导 P0 训练事件复盘并沉淀技术文档 加分项: - Nvidia GB系列训练经验 - rail-aligned / topology-aware 调度设计与落地经验 - 大规模 K8s 调度器性能调优经验(调度决策耗时、QPS 吞吐、watch 治理) - NCCL / PyTorch / Megatron / Volcano / Kueue 等开源项目源码级修改或上游贡献 - 万卡级训练任务容错系统(断点续训、慢节点替换、整体重试)实战经验 - 与 NVIDIA 工程团队的深度技术合作经历(NVL72 / NCCL / Fabric Manager 方向) - ICI / OCS / TPU pod 等其他超大规模 GPU/加速卡互连体系的接触经验 - NCCL / PyTorch / kube-scheduler / Linux Kernel 等社区论文发表或开源贡献

    二维码微信扫一扫,及时了解投递状态
    头像您目前还没有登录:立即登录

    岗位职责: 1. NVL72 内部 GPU 拓扑(机柜内 NVLink fabric、Compute tray ↔ NVSwitch tray 关系、跨柜 rail)的发现、上报与节点标签化 2. K8s 调度器(Volcano 二次开发 + kube-scheduler framework)的 GB300 rail-aligned 调度策略、Gang Scheduling 适配、跨柜 binpack / spread 策略实现与上线 3. 训练任务启动器(Launcher)的 NVL72 拓扑注入、ENV 配置、`NCCL_TOPO_FILE` 自动生成 4. Megatron-LM / DeepSpeed / PyTorch FSDP 在 NVL72 单机柜内的并行策略最佳实践(TP / PP / DP 切分边界与 NVLink 域对齐) 5. NCCL 在 NVL72 内部高带宽(NVLink 5)+ 跨柜 RDMA 混合拓扑下的深度调优:算法选择(ring / tree / NVLS)、QP 数、buffer 大小、IB HCA 绑定 6. 训练框架与 NCCL 的代码级 patch、问题上游回报与社区跟进 7. NVL72 故障域(机柜级 NVLink down、NVSwitch tray 故障、Compute tray 故障)下的训练任务断点续训、整体重试与节点替换语义 8. 训练任务级慢卡 / 慢柜检测:在 all-reduce 时延、step time、GPU SM/Mem 利用率等多维度做联合识别 9. 与 Operator 组、硬件运维 GB300 专项组配合落地"机柜级故障 → 节点替换 → 训练续跑"端到端链路 任职要求: - 计算机科学与技术、软件工程、人工智能等相关专业,本科及以上学历 - 5 年以上分布式训练系统或 K8s 平台研发经验 - **K8s 调度**:精通 kube-scheduler framework / scheduler plugins 机制,**具备 Volcano 二次开发实战经验**(Kueue / YuniKorn 等其他调度器有同等深度经验者亦可,但需对 Volcano 源码有独立阅读能力),理解 Gang Scheduling、队列、拓扑感知调度的实现 - **分布式训练框架**:精通 Megatron-LM / DeepSpeed / PyTorch FSDP 中至少一个的内部机制(数据并行 / 张量并行 / 流水并行实现、通信图、checkpoint 机制),具备千卡级训练任务调优实战经验 - **通信库**:深入理解 NCCL 内部(拓扑发现、ring / tree / NVLS 算法、QP 与 buffer 管理),具备 NCCL 参数调优与代码阅读能力 - **GPU 互连**:熟悉 NVLink / NVSwitch / Fabric Manager 工作机制,理解 NVLink 域概念及其对训练并行策略的影响 - **RDMA**:熟悉 RoCE / IB 协议栈基本概念(PFC / ECN / QP) - **编程语言**:精通 Go 与 Python,其中 Go 需具备独立开发 K8s 控制器或调度器插件的能力 - 良好的工程素养与跨团队协作能力,能够主导 P0 训练事件复盘并沉淀技术文档 加分项: - Nvidia GB系列训练经验 - rail-aligned / topology-aware 调度设计与落地经验 - 大规模 K8s 调度器性能调优经验(调度决策耗时、QPS 吞吐、watch 治理) - NCCL / PyTorch / Megatron / Volcano / Kueue 等开源项目源码级修改或上游贡献 - 万卡级训练任务容错系统(断点续训、慢节点替换、整体重试)实战经验 - 与 NVIDIA 工程团队的深度技术合作经历(NVL72 / NCCL / Fabric Manager 方向) - ICI / OCS / TPU pod 等其他超大规模 GPU/加速卡互连体系的接触经验 - NCCL / PyTorch / kube-scheduler / Linux Kernel 等社区论文发表或开源贡献

    二维码微信扫一扫,及时了解投递状态
    头像您已有可投递的在线简历:点击投递
    简历完成度50%,完善简历才能找到好工作:完善简历

    公司介绍

    企业尚未更新

    工作地点

    地址上海市

    查看地图

    看了此职位的人还会看
    查看更多相似的职位 >>

    公司信息 给我留言

    推荐职位 相关公司推荐

    • 头像

      考尚教育助你一战“尚”岸

      热招1个职位
      查看
    • 头像

      凯莫(上海)教育科技有限公司

      热招2个职位
      查看
    • 头像

      上海龙攀网络科技有限公司

      热招3个职位
      查看
    • 头像

      自由鸟健身工作室

      热招1个职位
      查看
    • 头像

      福州宏格达尔信息科技有限公司

      热招1个职位
      查看
    二维码

    扫描二维码及时订阅职位

    最新职位信息第一时间知晓

    上海兼职招聘

    • 扫码下载APP

      上海招聘网APP
    • 扫码进小程序

      上海招聘网小程序

    服务信息

    联系电话: 13916151478 杨老师

    服务时间:08:00-18:00

    上海人才招聘 | 上海招聘网 | 上海找工作 | 上海招聘 | 上海人才招聘网

    Copyright 2012-2022 上海招聘网 All Rights Reserved

    详细地址:江西省南昌市青山湖区高新大道万象汇9号楼7楼

    版权所有:江西易职邦网络科技有限公司

    ICP证:赣ICP备2021008707号-3 赣公网安备 36010202000584号

    技术支持:南昌传爱网络科技有限公司

    关注公众号

    服务时间08:00-24:00

    微信公众号

    微信公众号

    招聘交流群

    招聘交流群

    微信小程序

    微信小程序

    微信扫一扫

    面试通知

    收藏

    简历

    足迹

    微信求职

    关注公众号

    掌握最新求职动态

    微信公众号

    小程序

    进入小程序

    随时随地找工作

    小程序