阿里巴巴
阿里云智能-AI推理/训练优化专家-北京/杭州/上海
阿里云智能-AI推理/训练优化专家-北京/杭州/上海
发布于 4 小时前普通员工/个人贡献者
全职员工仅现场办公AI算法
AI算法
Ai推理优化
Cuda
Deepspeed
Megatron
Moe
Pytorch
Vllm
分布式训练
算子优化
值不值得投
76综合评分
综合评分 76
顶尖AI底层技术栈、高成长潜力、高压高回报的研发岗位
从薪资福利、成长发展、工作生活和使命价值四个维度综合评估，方便横向比较。
薪资怎么样
5.5万
比AI算法中位数高
发布情况
新岗位 · 今天发布
公司情况
这家公司招聘很活跃
约 4820 个在招 · 其中AI算法 66 个
市场机会
选择面较广
北京 · AI算法 · 约 140 个在招
职位详情
关于这个职位
负责阿里云智能主流深度学习框架及分布式训练/推理场景的性能调优，涵盖算子、通信、内存等关键指标
参与分布式训练框架建设（如MoE、模型并行）及推理引擎优化（如KV Cache管理、Attention-FFN分离），推动AI DSL编译优化与国产算力适配，提升集群整体运行效率
最低要求
年以上相关经验，熟悉深度学习框架(pytorch)，分布式训练和推理技术框架(如deepseed、fsdp、megatron、vllm、sglang），AI系统性能分析（如Nsight、PyTorch Profiler等）
理解 Attention、KV Cache、MoE、PD、模型并行与请求调度，能够分析不同负载下的性能瓶颈
熟悉Tilelang、Triton、Cutlass等编译/算子优化，有AI DSL、手写汇编等相关经验者优先
对国产算力生态相关社区有贡献或实践、具备国产化芯片性能调优经验者优先
有强烈技术热情和好奇心，自驱力和学习力强
具备良好的分析与解决问题的能力、沟通以及团队合作能力
喜欢挑战性的技术研发工作，善于攻坚克难，有创新热情，积极乐观，坚韧抗压，结果导向，能够持续推动问题的解决和突破
工作职责
针对主流深度学习框架、分布式训练和模型部署场景等，进行性能调优，优化算子性能、通信性能、内存利用率等关键指标，提升集群整体运行效率
参与分布式训练框架建设和优化，包括模型并行、长上下文、MoE、低精度、数据读取加速等
参与推理引擎请求调度，多级KV Cache管理，投机采样算法优化与 Draft 模型训练适配，性能仿真等策略算法和工具的实现，优化cache命中率和资源利用率和推理性能
参与推理引擎Attention–FFN 分离，异构和跨数据中心PD分离等新型架构的设计与实现，优化 A/F 资源配比、专家资源共享、微批流水及分布式调度，优化跨节点传输与计算通信重叠
参与基于tilelang/triton的编译优化和调优、cutlass高性能算子实现和国产算力社区建设，推动模型day0适配
参与AI DSL编译优化方向，探索通算融合、megakernel、kernel design agent等前沿技术，推动其在训推场景的规模化落地
AI 洞察
优缺点分析
优点
- 依托阿里云平台，拥有海量真实业务场景和顶级算力资源支持
- 在国产算力生态建设中具有先发优势，行业影响力大
- 技术迭代极快，需持续跟进最新论文与开源项目
- 对底层系统原理要求极高，容错率低
- 热衷于底层系统优化、对AI基础设施有深厚兴趣、具备极强自驱力和技术攻坚能力的资深工程师
缺点 / 挑战
- 接触业界最前沿的AI大模型训练/推理技术栈，技术挑战性极高
- 性能优化往往面临极端复杂的调试环境，压力较大
角色解读
- 可向AI基础设施架构师、首席科学家方向发展，或在通用人工智能（AGI）底层系统优化领域成为行业顶尖专家，主导下一代AI训练/推理平台的技术演进
- 深入优化深度学习框架（如PyTorch）及分布式训练/推理系统的性能，解决算子、通信、内存等瓶颈
- 设计并实现高效的推理引擎策略（如KV Cache管理、MoE调度），推动AI DSL编译技术与国产算力适配
- 精通PyTorch及DeepSpeed/Megatron/VLLM等主流框架
- 掌握Triton/Cutlass等编译优化技术
- 深刻理解Attention机制、模型并行、MoE架构原理
- 具备C++/CUDA编程能力及性能剖析工具使用经验
申请策略
- 准备详细的技术案例，说明如何解决具体的性能瓶颈问题
- 了解阿里云在AI领域的战略布局，展现对云计算与AI结合的理解
- 突出展示在深度学习框架二次开发、高性能算子编写（CUDA/Triton）、分布式训练稳定性优化方面的具体项目成果
- 量化性能提升指标（如吞吐量提升%、延迟降低ms）
- 深入研究MoE、PagedAttention等最新大模型架构细节
- 加强C++/CUDA底层编程能力
- 关注国产AI芯片（如华为昇腾、寒武纪）的软件栈适配经验
面试指南
- 采用STAR法则（情境、任务、行动、结果）描述项目
- 重点阐述问题分析思路、技术选型依据、遇到的困难及解决方案、最终量化的性能收益
- 请详细描述你优化过的一个最复杂的深度学习算子或内核，使用了哪些技术手段？
- 在分布式训练中，如何平衡通信开销与计算重叠？请举例说明
- 针对MoE架构，你认为当前的调度策略有哪些痛点？你会如何改进？
- 如何使用Nsight或PyTorch Profiler定位GPU内存泄漏或性能瓶颈？
- 复习计算机体系结构、并行计算原理
- 重温Transformer及其变体（如FlashAttention）的数学推导与工程实现
职位点评
薪资福利85
成长发展95
工作生活40
使命价值70
薪资福利
85较高
作为已上市巨头企业的核心研发岗，薪资水平通常处于行业高位，且福利体系完善，能满足较高的补偿性动机。
薪资信号未披露（AI估算：4.0千–7.0万/月）
成长发展
95较高
职位涉及AI推理/训练优化的最前沿技术领域，技术成长空间极大，能接触到行业顶尖的技术挑战和资源。
技术前沿前沿/新兴技术
技术栈PyTorch、DeepSpeed、Megatron、VLLM、Triton、Cutlass、MoE、KV Cache、AI DSL
业务类型profit_center
工作生活
40较低
互联网大厂核心研发岗通常工作强度较大，JD中提到的“坚韧抗压”暗示了较高的工作负荷，WLB相对一般。
工作模式未明确
办公地点市区核心地段
加班情况JD含高强度暗示词
使命价值
70中等
推动国产算力生态建设和AI技术落地，具有一定的行业价值和社会意义，但主要服务于商业产品。
行业发展高速增长赛道
社会影响中性/一般
创新程度开拓性创新（行业首创）
阿里巴巴 的其他在招职位
相似职位推荐
智能座舱AI算法开发工程师-德语方向
联想 · 上海市
AI 估算 · 3.5–6.0万3 小时前发布
Agent Personalization and Memory Evolution
联想 · 北京市
AI 估算 · 5.0–8.0万3 小时前发布
Staff Agent R&D Engineer
联想 · 北京市
AI 估算 · 4.0–7.0万3 小时前发布
Agent Personalization and Memory Evolution
联想 · 北京市
AI 估算 · 4.0–7.0万3 小时前发布
推理架构算法工程师
京东 · 北京市
AI 估算 · 5.0–8.0万3 小时前发布
Senior Consultant Specialist
汇丰 · 西安市
AI 估算 · 2.0–3.5万4 小时前发布
VP, FC Investigative Tooling
汇丰 · 广州市
AI 估算 · 3.5–6.0万4 小时前发布
AVP, Investigative Tooling
汇丰 · 广州市
AI 估算 · 2.5–4.5万4 小时前发布
Watch Jobs