阿里巴巴
面向超节点的大语言模型推理方案-阿里星/A Star
面向超节点的大语言模型推理方案-阿里星/A Star
发布于 大约 14 小时前普通员工/个人贡献者
全职员工仅现场办公高性能计算
高性能计算
Cuda
Gpu
Nvlink
Rocev2
Rocm
分布式系统
大模型推理
性能优化
通信优化
值不值得投
77综合评分
综合评分 77
阿里星顶尖博士项目，AI Infra前沿方向，技术成长极高，但WLB一般。
从起薪待遇、成长路径、工作节奏和岗位方向综合评估，方便比较职业起点。
薪资怎么样
参考估算薪资
根据职位描述推断，供对比参考
发布情况
新岗位 · 今天发布
公司情况
这家公司招聘很活跃
约 1580 个在招 · 其中高性能计算 3 个
市场机会
选择不多
杭州 · 高性能计算 · 2 个在招
职位详情
关于这个职位
该职位专注于大语言模型推理性能优化，通过软硬件协同设计和通信优化，提升阿里云异构资源上的计算效率和资源利用率
你将深入GPU平台性能分析，参与高性能计算系统研发，推动超节点推理方案落地
最低要求
分布式系统、计算机体系结构、编译优化或通信与计算协同设计方向的博士研究生
具备AI训推/推理计算性能分析与优化的经验，能深入分析AI模型在GPU平台上的性能瓶颈，提出并实施优化方案
针对分布式训练和推理系统，进行性能调优，提升系统的吞吐量和效率
熟悉业界常见的优化栈（cuda/rocm/cutlass/ck/triton等），在高效的内存管理、通信优化（NvLink/Infiniband/RoCEv2等）关键技术上有实操经验
前沿技术研究：跟踪AI Infra领域的最新研究进展，探索新的硬件架构、算法和系统优化技术
发表高水平学术论文，参与国际顶级会议（如ISCA、MICRO、OSDI、SOSP、ATC、NSDI等）
有强烈技术热情和好奇心，自驱力和学习力强
具备良好的分析与解决问题的能力、沟通以及团队合作能力
喜欢挑战性的技术研发工作，善于攻坚克难，有创新热情，积极乐观，坚韧抗压，结果导向，能够持续推动问题的解决和突破
工作职责
负责研发软硬件协同的优化能力，提升阿里云训推场景在异构资源上计算性能，进一步提高资源利用率
负责设计、实现、维护 AI 和高性能计算所需要的大模型推理场景的性能优化，聚焦模型通信场景的能力建设，完善集合通信、点对点通信等通信方式与推理框架的联合方案设计，推动提升推理性能
优先资格
分布式系统研发经验是加分项：设计和实现高效的分布式训练和推理框架，解决大规模分布式系统中的通信、同步和负载均衡问题
探索新型的分布式架构，提升系统的可扩展性和容错性
AI 洞察
优缺点分析
优点
- 大模型推理是当下最热门的AI基础设施方向，技术前沿性和市场需求极高
- 与业界顶级科学家和工程师合作，有机会发表高水平论文并参与国际会议
- 岗位对综合技术能力要求极高，需同时掌握体系结构、分布式系统和AI框架
- 工作强度较大，需应对复杂问题的长期攻坚，抗压能力要求高
- 技术迭代快，需要持续跟踪学术前沿，保持学习和创新节奏
缺点 / 挑战
- 阿里巴巴平台资源丰富，阿里星项目提供顶尖技术挑战和高成长空间
- 适合对AI系统底层技术有强烈热情、具备扎实系统背景且乐于挑战的博士毕业生
角色解读
- 从AI基础设施工程师起步，深耕大模型推理优化，成为AI Infra领域专家
- 积累软硬件协同设计经验，拓展至芯片、编译器、网络等底层技术方向
- 伴随AI大模型爆发，成为公司技术核心或行业领军人才，可向架构师或技术负责人发展
- 负责大语言模型推理场景的性能优化，通过软硬件协同设计提升异构资源利用率
- 深入分析AI模型在GPU平台上的性能瓶颈，设计并实施优化方案，提升推理吞吐量和效率
- 围绕模型通信场景建设通信优化能力，整合集合通信与推理框架，推动推理性能突破
- 扎实的分布式系统和计算机体系结构背景，精通GPU性能分析和优化
- 熟悉CUDA/ROCm/CUTLASS/Triton等优化栈，具备高效内存管理和通信优化实践
- 掌握NvLink/Infiniband/RoCEv2等高速互联技术，理解大规模分布式系统的通信瓶颈
申请策略
- 提前了解阿里巴巴AI基础设施团队的技术方向和产品（如阿里云PAI），在面试中展现匹配度
- 准备一个完整的大模型推理优化案例，能清晰讲述问题分析、优化方案和效果量化
- 突出分布式系统、GPU性能优化、通信优化等方向的科研项目与实践经验
- 强调在CUDA/ROCm等优化栈上的实际产出，如性能提升数据和论文发表
- 展示对AI Infra前沿领域的理解和独特技术见解，体现自驱力和学习能力
- 加深对NvLink、Infiniband、RoCEv2等通信技术的理解，补充高速网络知识
- 熟悉至少一种深度学习框架（如PyTorch）的分布式训练/推理代码，动手优化过性能瓶颈
- 了解编译优化和异构计算，学习Triton、TensorRT等工具
面试指南
- 用STAR法则结构化回答项目经验，突出性能分析方法和优化收益
- 从系统层次（硬件、通信、算法）综合思考问题，展现全局视角
- 结合具体数据和技术细节，体现动手能力和深度理解
- 请描述一次你如何定位并优化GPU上深度学习模型性能瓶颈的经历
- 大模型推理中集合通信（如AllReduce）如何影响端到端性能？你会如何优化？
- NvLink和RoCEv2在分布式训练/推理中各自的优劣和适用场景是什么？
- 如何设计一个高效的软硬件协同推理方案，以应对超节点的大规模计算需求？
- 你如何看待AI Infra领域的最新研究方向，有哪些可能影响未来架构的技术？
职位点评
薪资福利85
成长发展90
工作生活45
使命价值75
薪资福利
85较高
阿里星项目以高薪和丰厚福利著称，同时阿里巴巴上市公司的平台稳定性强，补偿性动机能获得较好满足。
薪资信号未披露（AI估算：55K-80K/月）
成长发展
90较高
岗位处于大模型推理前沿，涉及软硬件协同、通信优化等高价值技术，且支持发表学术论文，发展性动机极强。
技术前沿前沿/新兴技术
技术栈大模型推理、性能优化、CUDA、ROCm、分布式系统、通信优化、NvLink、Infiniband、RoCEv2
成长机会发表高水平学术论文、参与国际顶级会议
业务类型ambiguous
工作生活
45较低
仅现场办公且无弹性工作说明，研发岗位工作强度通常较高，生活化动机满足有限。
工作模式仅现场办公
办公地点科技园/产业园
加班情况未提及（无法判断）
使命价值
75中等
AI基础设施支撑技术发展，行业前景广阔，但岗位更偏重技术实现，社会意义感中等偏上。
行业发展高速增长赛道
社会影响中性/一般
创新程度积极采用新技术
Watch Jobs