阿里巴巴
AI Infra高性能通信与传输系统-阿里星/A Star
AI Infra高性能通信与传输系统-阿里星/A Star
发布于 大约 8 小时前普通员工/个人贡献者
全职员工仅现场办公高性能计算
高性能计算
Kv Cache
Moe
Mpi
Nccl
Ns-3
Rccl
Rdma
分布式系统
大模型训练
值不值得投
80综合评分
综合评分 80
AI基础设施前沿技术岗，薪资高、成长快，但工作强度可能较大。
从薪资福利、成长空间、工作节奏和岗位方向综合评估，方便横向比较。
薪资怎么样
参考估算薪资
根据职位描述推断，供对比参考
发布情况
新岗位 · 今天发布
公司情况
这家公司招聘很活跃
约 1820 个在招 · 其中高性能计算 5 个
市场机会
选择不多
北京 · 高性能计算 · 4 个在招
职位详情
关于这个职位
该职位专注于大模型时代AI基础设施中的高性能通信与传输系统优化，涉及通信库算法、MoE专家并行、分布式KV Cache传输及超节点通信调度等前沿方向
你将作为核心骨干，参与从通信库到网络协议栈的全栈优化，为大规模分布式训练与推理提供极致性能，并定义行业标准
适合具有深厚理论功底和工程落地能力的博士人才
最低要求
基本要求：
获得计算机科学与技术、计算机网络、通信工程、电子工程等相关专业博士学位
在顶级会议或期刊（如SIGCOMM, NSDI, ISCA，SC, HPCA, ATC, IEEE/ACM ToN等）以第一作者身份发表过高水平论文者优先
核心技能（满足其一即可，多项兼备者极佳）：
分布式系统经验，对RDMA网络、熟悉NCCL、RCCL、MPI等通信库源码，有大规模分布式训练系统优化经验者优先
有过大模型训练稳定性相关开发或者运维经验者优先，如大模型训练的故障定位，性能定位经验
对大模型训练和推理框架熟悉，有分布式训练推理集合通信性能优化经验，或者kv cache通信优化经验、或者计算通信overlapping经验者优先
算法与仿真能力：具备极强的数学建模能力，熟练使用NS-3、Omnet++或自研仿真器进行网络性能评估
综合素质：
对AI基础设施领域充满热情，具备敏锐的技术洞察力，能够独立思考并定义前沿问题
具备优秀的代码能力（C/C++/Go/Python），不仅限于理论研究，更渴望将算法落地到实际产品中
良好的沟通协作能力，能够跨团队（算法、芯片、系统、业务）推动复杂项目进展
工作职责
通信库算法设计与优化：针对大模型并行训练场景（Data/Tensor/Pipeline Parallelism），设计高效的集合通信原语（AllReduce, AllGather等）
研究计算与通信重叠（Overlap）机制，开发自适应调度算法，最大化GPU/NPU利用率
MoE 专家并行通信方案设计与实现：针对 MoE 架构的 All-to-All 通信瓶颈，设计和实现高效的 Dispatch/Combine 通信方案，研究通信-计算重叠、低 SM 占用通信 Kernel、不规则流量聚合调度等优化技术
分布式 KV Cache 传输系统建设：面向 PD 分离推理架构，基于 RDMA 构建跨节点 KV Cache 高速迁移系统，结合流水线化的 KV Block 传输，研究 KV Cache 量化压缩与分层缓存（HBM → DRAM → NVMe）策略
超节点混合通信调度：针对超节点架构，建立 Scale-up 域内与 RDMA 域间通信的协同调度模型，研究并行策略（数据并行、张量并行、流水线并行、专家并行）的通信建模与自动搜索，为上层训练/推理框架提供拓扑感知的通信决策支持
AI 洞察
优缺点分析
优点
- 阿里巴巴的平台和资源，有机会将研究成果落地到大规模生产环境，影响力巨大
- 薪资待遇优厚，属于公司核心人才计划，职业发展空间广阔
- 与顶尖的算法、芯片、系统团队合作，技术视野和成长速度远超一般岗位
- 对理论深度和工程能力要求极高，需要持续学习，保持技术领先
- 跨团队协作复杂，需要良好的沟通和推动能力
- 适合对AI基础设施有强烈兴趣，具有深厚分布式系统功底和科研能力，渴望解决前沿技术难题的博士人才
缺点 / 挑战
- 站在AI基础设施的最前沿，接触万亿级模型训练的核心技术挑战，技术含量极高
- 工作强度大，需要应对大规模系统优化中的复杂问题，压力不小
角色解读
- 技术专家路线：在AI基础设施领域深耕，成为通信系统优化方向的顶尖专家
- 架构师路线：从单一通信模块扩展到整个分布式训练/推理系统的架构设计
- 技术管理路线：带领团队定义AI基础设施的技术方向，推动行业标准制定
- 设计并优化分布式训练中的集合通信算法（如AllReduce、AllGather），提升GPU/NPU利用率
- 针对MoE架构的All-to-All通信瓶颈，开发高效的Dispatch/Combine方案，优化通信-计算重叠
- 基于RDMA构建跨节点KV Cache高速迁移系统，支持PD分离推理架构
- 建立超节点内Scale-up与RDMA域间通信的协同调度模型，为训练框架提供拓扑感知的通信决策
- 精通分布式系统原理，熟悉RDMA网络，深入理解NCCL、RCCL、MPI等通信库源码
- 具备大模型训练/推理框架的优化经验，熟悉集合通信性能优化、KV Cache通信优化或计算通信重叠
- 极强的数学建模能力，熟练使用NS-3、Omnet++等网络仿真工具
- 优秀的C/C++/Go/Python编程能力，能将算法落地到实际系统
申请策略
- 在面试中，除了展示技术深度，也要体现你对AI基础设施行业趋势的洞察
- 准备好讲述你如何将一个复杂的技术问题从理论建模到工程落地的完整案例
- 突出博士期间在分布式系统、通信优化或高性能计算领域的研究成果，尤其是顶级会议论文
- 详细描述参与的大规模分布式训练或推理项目，强调你在通信优化、性能调优中的具体贡献
- 展示对NCCL、RDMA等底层技术的深入理解，以及C/C++/Go/Python的工程能力
- 如有开源项目或技术博客，可附上链接，体现你的技术热情和影响力
- 深入研读NCCL、RCCL源码，理解其设计思想和优化技巧
- 学习RDMA编程，了解InfiniBand和RoCEv2的差异与应用
面试指南
- 对于技术问题，建议采用'背景-方案-权衡'的结构：先阐述问题背景和挑战，再提出你的解决方案，最后分析方案的优缺点和适用场景
- 对于系统设计问题，可以结合具体场景，从需求分析、架构设计、关键技术、验证方法等维度展开，体现你的系统思维
- 请详细解释NCCL中AllReduce的实现原理，并分析其在大规模集群下的瓶颈
- 如何设计一个高效的MoE All-to-All通信方案？请谈谈你的思路
- 在PD分离推理架构中，如何实现KV Cache的低延迟传输？你会考虑哪些优化？
- 如何对超节点内的通信进行建模和调度？请描述你的建模方法和优化目标
- 你如何评估一个通信优化方案的实际效果？会使用哪些工具和指标？
- 复习分布式系统、计算机网络、高性能计算的核心知识，特别是RDMA、集合通信等
职位点评
薪资福利90
成长发展95
工作生活40
使命价值85
薪资福利
90较高
阿里巴巴作为行业巨头，提供极具竞争力的薪酬和福利，且该岗位属于核心人才计划，薪资水平在行业内处于顶尖位置。
薪资信号未披露（AI估算：50K-80K/月）
成长发展
95较高
该岗位处于AI基础设施的最前沿，技术挑战巨大，能极大提升个人技术深度和广度，发展空间广阔。
技术前沿前沿/新兴技术
技术栈RDMA、NCCL、RCCL、MPI、MoE、KV Cache、分布式训练、NS-3
业务类型profit_center
工作生活
40较低
该岗位工作地点在北京或杭州，为现场办公，且涉及大规模系统优化，工作强度可能较大，WLB一般。
工作模式仅现场办公
办公地点科技园/产业园
加班情况未提及（无法判断）
使命价值
85较高
该岗位致力于推动AI基础设施的技术进步，对行业有重要影响，能带来强烈的使命感和成就感。
行业发展高速增长赛道
社会影响正向社会影响力较高
创新程度开拓性创新（行业首创）
Watch Jobs