欢迎访问上海招聘网!本站为上海找工作求职者提供上海人才招聘、上海人才市场、上海人才网等岗位信息!


职位月薪: 面议
熟练掌握华为昇腾Ascend、CANN工具链者优先;精通Linux操作系统、Docker容器部署与运维,熟练掌握PyTorch、模型量化、推理框架、服务器运维、资源监控等相关技能; 1. 熟练算力底座工具链,可独立搭建 GPU/NPU 异构集群运行环境,完成环境部署、版本治理、线上故障排查; 2. 能独立完成单卡 / 单机多卡 LLM 部署,量化验证,ATC 模型转换、量化精度验证; 3. 熟练性能采集分析工具: 能够开展基础性能分析,落地常规优化:算子融合、KV Cache 量化、张量并行 / 流水线并行参数调优; 4. 能够部署主流推理服务(vLLM / TensorRT-LLM /vLLM-Ascend/ MindSpore 推理),实施压力测试,采集时延、吞吐指标,输出性能优化报告; 5. 具备独立开发自定义底层算子能力;遇到算子性能缺陷、算子缺失问题,能够完整整理复现环境、性能日志、模型样本,协同相关团队推进优化
微信扫一扫,及时了解投递状态
您目前还没有登录:立即登录熟练掌握华为昇腾Ascend、CANN工具链者优先;精通Linux操作系统、Docker容器部署与运维,熟练掌握PyTorch、模型量化、推理框架、服务器运维、资源监控等相关技能; 1. 熟练算力底座工具链,可独立搭建 GPU/NPU 异构集群运行环境,完成环境部署、版本治理、线上故障排查; 2. 能独立完成单卡 / 单机多卡 LLM 部署,量化验证,ATC 模型转换、量化精度验证; 3. 熟练性能采集分析工具: 能够开展基础性能分析,落地常规优化:算子融合、KV Cache 量化、张量并行 / 流水线并行参数调优; 4. 能够部署主流推理服务(vLLM / TensorRT-LLM /vLLM-Ascend/ MindSpore 推理),实施压力测试,采集时延、吞吐指标,输出性能优化报告; 5. 具备独立开发自定义底层算子能力;遇到算子性能缺陷、算子缺失问题,能够完整整理复现环境、性能日志、模型样本,协同相关团队推进优化
企业尚未更新
上海市
扫描二维码及时订阅职位
最新职位信息第一时间知晓
上海兼职招聘
360行任你挑选
分秒必争直达HR
谁看我简历早知道
请使用微信【扫一扫】
关注「上海易职邦招聘」公众号完成登录
客服电话:400-765-0056
竭诚为您服务
服务时间08:00-24:00
微信小程序
面试通知
收藏
简历
足迹
微信求职
关注公众号
掌握最新求职动态
小程序
进入小程序
随时随地找工作