岗位职责： 岗位定位 负责 MaaS 平台的产品功能开发与快速迭代，覆盖在线/离线推理服务、模型广场、模型挂测、MCP、Agent Gateway 等控制面能力，以及数据面跨集群/多服务的流量分发。技术栈以 Go 为主，K8s 为底座，快速测试与发布上线。 主要职责 1. 推理产品功能开发 - 在线推理服务：服务创建/配置/发布/下线、API/SDK（OpenAI 兼容协议）产品化 - 离线推理服务：批量推理任务的提交/调度/结果回收 - 模型广场（Model Catalog）：模型目录、版本、别名、上下线与元数据管理 - 模型挂测：模型效果/性能评测接入与榜单/报告产品化 - MCP、Agent Gateway 等 Agent 生态相关的控制面能力 2. 数据面流量治理（与数据面网关协作，负责策略与配置） - 配额：租户/项目/Key/模型维度的额度管理（RPM/TPM/并发等），配额的查询、调整与超限处置 - 流控：限流/熔断/降级策略的配置与下发，超限返回 429 与 Retry-After，保障后端不被打爆 - 路由策略：按模型/版本/租户/地域/灰度比例等维度的流量分发规则，跨集群、多服务的路由配置与灰度切流 - 保证流量分发的正确性与可观测，配合定位流量相关问题 3. 功能迭代与交付：需求拆解、接口设计、编码、自测、联调，快速迭代、测试与发布上线；线上问题的定位与修复 4. 工程质量：编写接口文档与单测，参与 Code Review；对所负责功能的可用性与质量负责 任职要求： 必须满足（硬性）： - 计算机相关专业本科及以上，3 年以上后端/平台开发经验（硕士 2 年+） - 熟练使用 Go 开发服务端，有微服务/分布式系统实战 - 熟悉 Kubernetes，有基于 K8s 的服务部署、配置与排障经验 - 有 MaaS 平台 / 公有云 AI 平台 / 推理平台的产品或开发经验（简历中需体现实际参与的平台模块） - 有平台型产品或中后台系统的开发经验，能独立负责功能模块的端到端交付 - 熟悉 MySQL/PostgreSQL、Redis、Kafka 等常用中间件，理解高并发、缓存、队列 - 具备快速迭代与自测能力，有产品感觉，能和产品/前端高效协作 加分项： - 了解推理链路与基本原理（模型部署、Runtime、流式输出、TTFT/TPOT 等） - 熟悉 Agent / MCP / Function Calling 等 LLM 应用生态 - 有数据面流量分发、API 网关（Kong/APISIX/Envoy）或跨集群调度经验 - 有 OpenAI-compatible API 开发或对接经验

微信扫一扫，及时了解投递状态

您目前还没有登录：立即登录