岗位职责与要求:
1. 参与AI 中台核心模块的架构设计与研发,包括异构算力调度、任务全生命周期管理、模型服务化及自动化训练流水线,保障平台高性能、高可用和可扩展。
2. 负责大规模云边端 AI 分析任务的分布式调度与端云协同,实现任务动态分配、状态同步、故障迁移和负载均衡,保障海量设备及高并发任务稳定运行。
3. 负责CPU/GPU/NPU等异构算力资源的统一纳管与智能调度,持续优化推理资源配置、任务并发及算力利用效率,降低推理成本。
4. 负责模型推理服务化能力建设,集成并优化 vLLM、TensorRT、Triton 等推理引擎,支持模型版本管理、灰度发布、流量路由、A/B 测试和弹性伸缩。
5. 结合业务需求制定应用、数据及系统集成方案,推动大模型及 AI 产品持续迭代,解决业务规模增长带来的性能、稳定性和扩展性问题。
6. 跟踪大模型训练、推理及分布式计算等前沿技术,完成技术选型与可行性验证,推动优秀开源框架和基础设施在平台落地。1. 具备扎实的编程基础,熟练掌握 Java、Go、Python 等至少一种主流开发语言,具备微服务、高并发及高可用系统的设计与开发经验。
2. 熟悉 Kubernetes、Docker、Kafka 等云原生及分布式技术;具备 CPU、GPU、NPU 等异构算力调度或云边端任务调度经验者优先。
3. 熟悉模型训练与推理服务化技术,了解 vLLM、TensorRT、Triton、Ray、Argo Workflows 等框架中的一种或多种。
4. 具备扎实的数据结构、操作系统、计算机网络和分布式系统基础;熟悉 Linux 操作系统及常用命令,了解 Shell 脚本、TCP/HTTP、Socket、MySQL、Redis 等相关技术。
5. 具备良好的问题分析、沟通协作和技术文档编写能力,能够协同产品、算法、研发及运营团队推动技术方案落地。

微信扫一扫,及时了解投递状态
岗位职责与要求:
1. 参与AI 中台核心模块的架构设计与研发,包括异构算力调度、任务全生命周期管理、模型服务化及自动化训练流水线,保障平台高性能、高可用和可扩展。
2. 负责大规模云边端 AI 分析任务的分布式调度与端云协同,实现任务动态分配、状态同步、故障迁移和负载均衡,保障海量设备及高并发任务稳定运行。
3. 负责CPU/GPU/NPU等异构算力资源的统一纳管与智能调度,持续优化推理资源配置、任务并发及算力利用效率,降低推理成本。
4. 负责模型推理服务化能力建设,集成并优化 vLLM、TensorRT、Triton 等推理引擎,支持模型版本管理、灰度发布、流量路由、A/B 测试和弹性伸缩。
5. 结合业务需求制定应用、数据及系统集成方案,推动大模型及 AI 产品持续迭代,解决业务规模增长带来的性能、稳定性和扩展性问题。
6. 跟踪大模型训练、推理及分布式计算等前沿技术,完成技术选型与可行性验证,推动优秀开源框架和基础设施在平台落地。1. 具备扎实的编程基础,熟练掌握 Java、Go、Python 等至少一种主流开发语言,具备微服务、高并发及高可用系统的设计与开发经验。
2. 熟悉 Kubernetes、Docker、Kafka 等云原生及分布式技术;具备 CPU、GPU、NPU 等异构算力调度或云边端任务调度经验者优先。
3. 熟悉模型训练与推理服务化技术,了解 vLLM、TensorRT、Triton、Ray、Argo Workflows 等框架中的一种或多种。
4. 具备扎实的数据结构、操作系统、计算机网络和分布式系统基础;熟悉 Linux 操作系统及常用命令,了解 Shell 脚本、TCP/HTTP、Socket、MySQL、Redis 等相关技术。
5. 具备良好的问题分析、沟通协作和技术文档编写能力,能够协同产品、算法、研发及运营团队推动技术方案落地。

微信扫一扫,及时了解投递状态
简历完成度50%,完善简历才能找到好工作:
完善简历