阿里巴巴
阿里云智能-异构计算软硬件结合开发高级工程师-深圳/杭州
阿里云智能-异构计算软硬件结合开发高级工程师-深圳/杭州
发布于 2 小时前普通员工/个人贡献者
全职员工仅现场办公后端开发
后端开发
Sglang
Vllm
分布式系统
大模型推理
异构计算
性能建模
系统仿真
值不值得投
75综合评分
综合评分 75
前沿AI基础设施研发、高技术壁垒、强技术驱动型岗位
从薪资福利、成长发展、工作生活和使命价值四个维度综合评估，方便横向比较。
薪资怎么样
4.8万
比后端开发中位数高
发布情况
新岗位 · 今天发布
公司情况
这家公司招聘很活跃
约 4140 个在招 · 其中后端开发 约 110 个
市场机会
选择面较广
深圳 · 后端开发 · 约 140 个在招
职位详情
关于这个职位
负责大模型推理系统与全链路仿真领域的技术规划与核心研发，构建异构AI服务器系统模型
精通C++/Python及主流推理框架（如vLLM），通过仿真引擎优化部署策略、容量规划及系统性能，推动技术进入开源社区
最低要求
年大模型推理系统、分布式系统、性能建模或仿真平台研发经验，能够独立负责仿真模块从设计、实现到校准验收的完整交付
精通C++和Python，源码级熟悉SGLang、vLLM等推理框架的请求调度、KV Cache、批处理和多机多卡执行机制
熟悉离散事件仿真、虚拟时钟、Hook/Mock或Trace驱动建模方法，具备P/D分离、TP/PP/EP、通信或容量规划经验
具备数据分析、开源协作和跨团队推动能力，能够准确区分实测、校准与预测结果
有Serving系统或开源项目贡献经验者优先
能够熟练使用AI工具辅助代码理解、日志与Trace分析，具备良好的沟通协调能力，能推动开源社区、芯片厂商和业务团队对齐接口、数据口径及验收标准
有强烈技术热情和好奇心，自驱力和学习力强
工作职责
负责大模型推理系统与全链路仿真领域的技术规划与核心研发，制定仿真技术路线，主导震旦从模型、算子到调度和服务的仿真架构演进
构建请求调度、KV Cache、并行计算、通信及分离架构的系统模型，刻画异构AI服务器在真实业务负载下的时延、吞吐和资源效率
贯通流量画像、算子性能模型和系统仿真，形成异构AI服务器的部署策略、容量规划方案、瓶颈归因及系统优化方案，并推动业务应用
交付仿真引擎、系统模型库、标准接口和方案分析结论，并推动核心技术进入主流推理框架及开源社区
AI 洞察
优缺点分析
优点
- 接触最前沿的大模型推理与异构计算技术，技术壁垒高，行业前景广阔
- 适合热衷于底层系统优化、对大模型推理机制有深入研究兴趣的高级工程师
缺点 / 挑战
- 对底层系统原理和源码级理解要求极高，需处理复杂的分布式并发与性能瓶颈问题
角色解读
- 可向AI基础设施架构师、高性能计算专家或大模型系统技术负责人方向发展
- 负责大模型推理系统的仿真架构设计与核心研发，建立从模型到调度的全链路仿真体系
- 精通C++/Python，深入理解vLLM/SGLang等推理框架源码，掌握离散事件仿真及性能建模技术
申请策略
- 准备展示对主流开源推理框架的贡献或深度使用案例，强调解决复杂系统问题的能力
- 突出在大模型推理框架(vLLM等)的源码级理解、仿真平台搭建经验及性能优化成果
- 深化对分布式训练/推理通信机制(Pipeline/Tensor Parallelism)的理解，提升系统建模能力
面试指南
- 采用STAR法则，重点阐述技术选型的权衡、遇到的具体难点及通过仿真/实测验证的解决方案
- 请描述vLLM中PagedAttention的工作原理及其优势
- 如何构建一个高精度的异构AI服务器仿真模型？
- 在大规模分布式系统中，如何定位和解决通信瓶颈？
- 复习操作系统、计算机网络及分布式系统基础，梳理大模型推理框架的核心算法与数据结构
职位点评
薪资福利85
成长发展90
工作生活40
使命价值70
薪资福利
85较高
作为上市巨头企业的核心研发岗，通常提供具有竞争力的薪酬包和完善的福利体系。
薪资信号未披露（AI估算：3.5千–6.0万/月）
成长发展
90较高
涉及大模型推理与异构计算前沿领域，技术栈先进，对个人技术成长极具价值。
技术前沿前沿/新兴技术
技术栈大模型推理、vLLM、SGLang、C++、Python、异构计算、仿真引擎
业务类型profit_center
工作生活
40较低
互联网大厂核心研发岗通常工作节奏较快，JD未提及弹性工作制，可能面临较高工作压力。
工作模式未明确
办公地点科技园/产业园
加班情况未提及（无法判断）
使命价值
70中等
致力于提升AI基础设施效率，推动技术开源，具有一定的行业影响力和社会价值。
行业发展高速增长赛道
社会影响中性/一般
创新程度积极采用新技术
阿里巴巴 的其他在招职位
相似职位推荐
Watch Jobs