训推平台及引擎工程师-上海招聘网

联系方式

联系人：宁德时代新能源科技股份有限公司

联系电话：152****5633

点击查看

打电话联系前先投递一份简历，面试成功率提高60%！

(联系我时，请说是在上海易职邦上看到的)

职位描述

工作地点：上海

推理优化方向：

1. 负责模型推理性能调优：chunked prefill、continuous batching、KV cache压缩

2. 开展模型量化实验（INT4 QAT/GPTQ/AWQ），验证精度与性能平衡

3. 维护推理服务基准测试套件，持续跟踪TTFT/TPS/并发指标

4. 主导多模型（Kimi、Deepseek、Qwen、GLM、Minimax）的部署与适配

5. 编写推理优化技术文档与最佳实践

模型评测方向：

1. 建立模型评测框架：覆盖编码（SWE-bench/LiveCodeBench）、长文本（MRCR/LongBench）、通用能力

2. 跟踪国内外主流模型动态，定期输出模型选型建议

3. 执行模型对比实验：推理性能、精度、成本的综合评估

4. 维护模型部署兼容性矩阵（SGLang/vLLM × 各模型 × 各GPU）

5. 撰写模型评估报告供管理层决策参考

模型研发方向：

1、负责AI模型的部署、模型服务运维、稳定性保障，模型参数调优

2、大模型推理、CV模型推理相关配套中间件介入

3、协助模型算法工程师解决模型在服务环境中的问题

4、监控模型服务运行情况及及评估优化结果

微信扫一扫，及时了解投递状态

您目前还没有登录：立即登录

投递简历在线聊天

投递一份完美的简历，成就一次完美的面试！

工作地点：上海

推理优化方向：

1. 负责模型推理性能调优：chunked prefill、continuous batching、KV cache压缩

2. 开展模型量化实验（INT4 QAT/GPTQ/AWQ），验证精度与性能平衡

3. 维护推理服务基准测试套件，持续跟踪TTFT/TPS/并发指标

4. 主导多模型（Kimi、Deepseek、Qwen、GLM、Minimax）的部署与适配

5. 编写推理优化技术文档与最佳实践

模型评测方向：

1. 建立模型评测框架：覆盖编码（SWE-bench/LiveCodeBench）、长文本（MRCR/LongBench）、通用能力

2. 跟踪国内外主流模型动态，定期输出模型选型建议

3. 执行模型对比实验：推理性能、精度、成本的综合评估

4. 维护模型部署兼容性矩阵（SGLang/vLLM × 各模型 × 各GPU）

5. 撰写模型评估报告供管理层决策参考

模型研发方向：

1、负责AI模型的部署、模型服务运维、稳定性保障，模型参数调优

2、大模型推理、CV模型推理相关配套中间件介入

3、协助模型算法工程师解决模型在服务环境中的问题

4、监控模型服务运行情况及及评估优化结果

微信扫一扫，及时了解投递状态

您已有可投递的在线简历：点击投递

简历完成度50%，完善简历才能找到好工作：完善简历

投递简历在线聊天

投递一份完美的简历，成就一次完美的面试！

公司介绍

企业尚未更新

工作地点

上海市

查看地图

看了此职位的人还会看
查看更多相似的职位 >>

课程顾问

5k-10k

上海市 | 1-3年 | 大专

凯莫（上海）教育科技有限公司

人事助理

5k-7k

上海市 | 1年以内 | 本科

凯莫（上海）教育科技有限公司

课程顾问

5k-10k

上海市 | 1-3年 | 大专

凯莫（上海）教育科技有限公司

人事助理

6k-7k

上海市 | 1-3年 | 本科

凯莫（上海）教育科技有限公司

人事

4k-6k

上海市 | 不限经验 | 大专

上海视妙文化传播有限公司

岗前培训无责薪资6000+

12k-15k

上海市 | 1年以内 | 大专

浚汰集团

公司信息

宁德时代新能源科技股份有限公司

ecruit_type} 全职

人力资源服务

500-999 500-999人

上海市

查看所有职位

我要招聘

微信订阅

给我留言

发送