阿里巴巴
AI推理平台-百炼高级开发工程师-杭州/北京
AI推理平台-百炼高级开发工程师-杭州/北京
发布于 2 小时前普通员工/个人贡献者
全职员工仅现场办公后端开发
后端开发
Api网关
Envoy
Go
分布式系统
微服务架构
高并发
值不值得投
78综合评分
综合评分 78
核心AI推理平台后端研发，前沿技术栈与高成长空间，薪资竞争力强，但工作强度与抗压要求较高。
从薪资福利、成长空间、工作节奏和岗位方向综合评估，方便横向比较。
薪资怎么样
3.5万
与后端开发中位数基本持平
发布情况
新岗位 · 今天发布
公司情况
这家公司招聘很活跃
约 3130 个在招 · 其中后端开发 84 个
市场机会
选择面较广
杭州 · 后端开发 · 约 170 个在招
职位详情
关于这个职位
该职位负责阿里云百炼、通义千问等核心AI推理平台的管控面后端系统设计与开发
你将参与推理网关、模型全链路生命周期管理及大模型体验中心等关键模块的高可用架构设计，支撑百亿级Token调用的高并发场景
最低要求
硕士及以上学历，计算机相关专业，2年以上后端开发经验，精通 Java/Go/Python 至少一门语言
具备高并发、分布式系统设计经验，深入理解微服务架构
熟悉面向对象的分析和设计技术，对领域模型设计有深刻理解
强烈的责任心与抗压能力，良好的技术视野、沟通能力、自驱力，能独立主导模块从0到1落地
工作职责
负责阿里云百炼、通义千问AI平台管控面后端系统的设计、开发与维护，参与模型元数据、网关策略配置、企业级能力、TokenPlan等关键模块的开发工作
参与推理网关（认证/限流/鉴权）、控制台网关（多端适配/安全管控/运维体系/多站点）、企业级能力（网络通道、数据权限管控、细粒度权限、资源与OpenAPI等）的高可用架构设计与开发工作
参与百炼平台模型的全链路生命周期管理，参与API的发布、调试、监控、告警、审计的全链路管控流程，参与网关策略配置的多Region数据巡检及管控治理体系的架构设计与开发工作
参与大模型体验中心（文本/语音/视觉/全模态/向量）模型体验流式网关协议转发、实时数据转储等推理服务链路的系统设计与开发工作
参与百炼TokenPlan业务坐席管理、UAC对接、credits抵扣、优惠活动、Agent对接等系统设计与开发工作
了解技术使用场景和优缺点，能够就复杂技术问题提供解决方案并执行落地，同时对上下游技术团队及技术架构有完整认知
持续跟踪大模型基础设施技术趋势，输出可落地的架构方案并主导实施
优先资格
熟悉 API网关（如Kong/Envoy）、服务治理（限流/熔断/链路追踪）、云原生技术（K8s/Docker）者优先
AI 洞察
优缺点分析
优点
- 处于大模型基础设施这一前沿赛道，技术积累对未来职业发展有巨大加成
- 大模型技术迭代极快，需要持续学习并跟踪最新技术趋势
- 适合具备扎实后端基础、对高并发和分布式架构有浓厚兴趣，且希望在AI大模型基础设施领域深耕的技术人才
缺点 / 挑战
- 参与核心AI推理平台研发，接触百亿级Token调用的高并发场景，技术挑战大且极具含金量
- 支撑企业级AI应用的稳定交付，对系统高可用性和稳定性要求极高，可能面临较大的线上运维和排障压力
角色解读
- 从后端开发工程师向架构师或技术专家方向发展，深入大模型基础设施与MaaS平台底层技术
- 未来可成长为AI基础架构领域的核心技术骨干或技术团队负责人
- 负责阿里云百炼、通义千问等核心AI推理平台的管控面后端系统设计与开发
- 参与推理网关、模型全链路生命周期管理及大模型体验中心等关键模块的高可用架构设计，支撑百亿级Token调用
- 精通Java/Go/Python至少一门语言，具备高并发、分布式系统设计与微服务架构经验
- 熟悉API网关、服务治理及云原生技术，具备领域模型设计能力
申请策略
- 了解阿里云百炼、通义千问的产品形态与业务逻辑，在面试中展现对大模型基础设施技术趋势的独立思考与见解
- 突出高并发、分布式系统设计经验，以及微服务架构的实际落地案例
- 强调在API网关、服务治理或云原生技术方面的项目经验
- 深入学习大模型推理服务链路、流式网关协议转发及MaaS平台架构设计
- 熟悉Kong/Envoy等主流API网关的底层原理与调优
面试指南
- 采用STAR法则，结合具体项目背景、技术方案设计、遇到的难点及最终收益进行回答
- 对于架构设计问题，从需求分析、技术选型、高可用/高并发设计、监控运维等维度系统性阐述
- 如何设计一个支撑百亿级Token调用的高并发推理网关？
- 在微服务架构中，如何实现细粒度的数据权限管控与资源隔离？
- 请分享一个你主导的从0到1的复杂模块落地案例，遇到了哪些技术挑战？
- 大模型体验中心的流式网关协议转发和实时数据转储在架构设计上有哪些难点？
- 复习分布式系统、高并发架构、微服务治理的核心知识，准备1-2个自己主导的复杂后端项目案例
- 了解大模型推理、MaaS平台的基本概念及阿里云百炼的产品特性
职位点评
薪资福利85
成长发展95
工作生活40
使命价值85
薪资福利
85较高
核心AI业务线的高级开发岗，薪资竞争力强，且已上市企业稳定性较高。
薪资信号偏高 (2.5千–4.5万/月)
成长发展
95较高
处于大模型基础设施这一绝对前沿赛道，技术深度和广度要求高，个人技术成长空间极大。
技术前沿前沿/新兴技术
技术栈Java、Go、Python、微服务架构、高并发、分布式系统、Kong、Envoy、Kubernetes、Docker、API网关
成长机会持续跟踪大模型基础设施技术趋势、输出可落地的架构方案并主导实施
业务类型profit_center
工作生活
40较低
JD未提及工作模式与WLB，但作为核心AI业务线且要求强烈的责任心与抗压能力，工作强度可能较大。
工作模式未明确
办公地点科技园/产业园
加班情况JD含高强度暗示词
使命价值
85较高
打造业界规模最大的MaaS平台，支撑大模型应用落地，具有较高的行业价值和技术使命感。
行业发展高速增长赛道
社会影响正向社会影响力较高
使命信号打造业界最可靠、成本最优、效率最高、规模最大的MaaS平台、保障企业级AI应用的稳定交付与极致体验
创新程度开拓性创新（行业首创）
Watch Jobs