阿里巴巴
阿里云智能-异构计算软硬件结合开发专家-杭州
阿里云智能-异构计算软硬件结合开发专家-杭州
发布于 2 小时前普通员工/个人贡献者
全职员工仅现场办公AI算法
AI算法
Ai Infra
Cuda
Gpu集群
Linux内核
Pytorch
Sglang
Vllm
性能优化
值不值得投
78综合评分
综合评分 78
顶尖AI Infra技术岗，前沿技术栈，高薪高成长，但工作强度大，WLB较弱
从薪资福利、成长发展、工作生活和使命价值四个维度综合评估，方便横向比较。
薪资怎么样
7.0万
比AI算法中位数高
发布情况
新岗位 · 今天发布
公司情况
这家公司招聘很活跃
约 4680 个在招 · 其中AI算法 24 个
市场机会
选择适中
杭州 · AI算法 · 21 个在招
职位详情
关于这个职位
负责阿里云异构计算软硬件结合开发，构建推理框架与算子层的性能诊断平台
深入分析主流大模型推理框架源码，定位并解决GPU集群在满载运行下的稳定性、性能瓶颈及资源利用率问题，优化多卡/多节点负载均衡
最低要求
具备 5 年以上 AI Infra 相关工作经验，计算机相关专业背景
拥有扎实的编码功底，精通python/C/C++/Go/Rust等语言，拥有规范的工程化能力
深入理解Linux系统，有大规模生产系统软件的开发与运维经验
熟练掌握CUDA编程技术，掌握常用Profiling工具的使用方法与分析能力
熟练掌握主流AI框架（如PyTorch、TensorFlow）、大模型训练框架（如Megatron、DeepSpeed）和大模型推理框架（如SGLang、vLLM）
深入理解常见大模型结构及算法原理，掌握训练推理的主流工程优化技术
具备较强的学习能力和抗压能力，能够适应快速发展的AI行业环境
同时具备出色的跨团队协作能力和沟通能力
能熟练使用主流 AI Coding 工具（如 Codex、Copilot、Cursor 等），熟悉 AI 驱动的现代研发流程，并能将 AI 工具融入日常开发与问题排查工作中
工作职责
从推理框架与算子层的视角，参与异构资源 Profiling & Tracing 平台的架构设计与能力建设，覆盖框架调度、算子执行、硬件微观指标等全链路性能诊断能力
能基于主流推理框架（vLLM / SGLang / TRT-LLM）的源码理解，分析调度策略对推理延迟与吞吐的影响，定位性能瓶颈并提出优化方案
负责 GPU 满载运行场景下的稳定性与性能问题排查，包括 RAS 故障（ECC、XID、NCCL 超时）、框架层显存泄漏与 OOM 分析、推理延迟异常等
负责从集群视角优化多卡/多节点的资源利用率与负载均衡
负责建立面向多种异构硬件架构的统一诊断与 Profiling 能力
优先资格
熟悉至少一种主流GPU架构（NVIDIA GPU、AMD GPU等）者
具备Cutlass、Triton等框架的开发与调优经验者
有大规模GPU集群监控，在线Profiling和稳定性保障经验，有ai agent开发经验或ai agent评测系统开发经验
具有 GPGPU 微架构分析的实践经验，具有 AI 芯片设计及相关软硬件技术研究成果者
AI 洞察
优缺点分析
优点
- 处于AI算力基础设施核心赛道，技术壁垒高，接触最前沿的大模型推理优化技术
- 具备深厚计算机系统功底、热爱底层技术攻坚、能承受高压的技术专家型人才
缺点 / 挑战
- 工作强度大，需处理复杂的线上故障，对底层系统和硬件知识要求极高，压力大
角色解读
- 向首席架构师、AI基础设施技术专家或技术总监方向发展，深耕AI算力底层优化领域
- 构建和维护大规模AI集群的性能诊断与监控系统（Profiling & Tracing）
- 精通底层系统编程（C++/Rust/CUDA）与大模型推理框架源码级优化
申请策略
- 强调解决复杂性能瓶颈的实际案例，展示对异构计算全链路的系统性认知
- 突出大规模GPU集群运维经验、CUDA优化案例、以及对vLLM/SGLang等框架的源码贡献或深度使用经验
- 深化对GPGPU微架构的理解，掌握Triton/Cutlass等高性能计算库的使用，提升AI Agent相关开发能力
面试指南
- 采用STAR法则：情境（Context）- 任务（Task）- 行动（Action，重点描述技术选型和底层优化手段）- 结果（Result，量化性能提升指标）
- 请描述一次你通过CUDA优化显著提升模型推理吞吐量的经历
- 如何定位并解决NCCL通信超时导致的集群性能下降？
- 对比vLLM和SGLang的调度策略差异，你会如何优化？
- 在大规模GPU集群中，如何设计高效的在线Profiling系统？
- 复习Linux内核机制、CUDA编程模型、大模型推理框架原理，准备1-2个深度的性能优化项目案例
职位点评
薪资福利90
成长发展95
工作生活40
使命价值70
薪资福利
90较高
作为已上市巨头企业的专家岗，提供极具竞争力的薪酬包（高薪+股票），满足度高。
薪资信号未披露（AI估算：5.0千–9.0万/月）
成长发展
95较高
涉及AI Infra最前沿领域，技术栈先进，个人成长空间巨大。
技术前沿前沿/新兴技术
技术栈AI Infra、CUDA、vLLM、SGLang、TRT-LLM、PyTorch、Megatron、DeepSpeed、Rust、Cutlass、Triton
业务类型profit_center
工作生活
40较低
互联网大厂核心研发岗，通常伴随高强度工作和较大压力，WLB一般。
工作模式未明确
办公地点科技园/产业园
加班情况JD含高强度暗示词
使命价值
70中等
推动AI基础设施建设，提升算力效率，具有显著的行业价值和技术使命感。
行业发展高速增长赛道
社会影响中性/一般
创新程度积极采用新技术
阿里巴巴 的其他在招职位
相似职位推荐
点评技术-大模型算法专家
美团 · 上海市
AI 估算 · 4.0–7.0万1 小时前发布
Industrial Engineering ES
德科斯米尔 · 沈阳市
AI 估算 · 1.8–3.0万2 小时前发布
【集团】大模型算法管培生
极兔速递 · 上海市
AI 估算 · 1.5–2.5万4 小时前发布
百度公有云大模型训练加速实习生（J107176）
百度 · 北京市
AI 估算 · 0.4–0.6千12 小时前发布
Agent工程师实习生（J107185）
百度 · 北京市
AI 估算 · 0.3–0.4千12 小时前发布
高级／资深算法工程师（销售 Agent 方向）
美团 · 成都市
AI 估算 · 4.0–7.0万1 天前发布
Watch Jobs