字节跳动
高性能集合通信库工程师-网络
高性能集合通信库工程师-网络
发布于 大约 2 小时前普通员工/个人贡献者
上海市
高级经验
全职员工
仅现场办公
本科
分布式系统
性能优化
RDMA
NCCL
AI集群
集合通信
Allreduce
Halving-Doubling
Ring算法
Tree算法
AI 估算 · 30k–50k
高性能通信岗位稀缺，字节跳动薪资竞争力强，综合考虑市场水平与技能难度，月薪30k-50k，15薪。
职位详情
关于这个职位
该职位负责字节跳动高性能集合通信库（CCL）的研发与优化，专注于AI集群中多卡/多机场景下的通信效率提升
你将基于RDMA和Scale-up等互联技术，设计并实现高速通信库及工具，并与训练、推理团队协作，突破分布式计算的性能瓶颈
适合对高性能计算和底层系统有浓厚兴趣的软件工程师
最低要求
本科及以上，计算机、电子工程相关专业
扎实的分布式系统知识，熟悉大规模AI集群架构、网络通信原理及RDMA技术
熟悉常见集合通信算法（如Ring、Tree、Halving-Doubling），了解集合通信库（NCCL等）实现原理
具备复杂问题分析能力，能独立完成性能调优与故障排查
工作职责
核心研发工作：
）负责集合通信库（CCL）设计、开发与优化，支持多卡/多机场景下的高性能通信
）基于RDMA和Scale-up等互联技术，研发高速通信库及相关工具
）探索通信与计算的协同优化，设计通信算子与计算算子的融合方案
性能优化与问题解决：
）分析并优化AI集群中单机内/多机间的集合通信性能（如AllReduce、All2All等），突破软硬件性能瓶颈
）解决分布式训练/推理场景中的通信问题，适配复杂应用场景需求
）利用Triton等工具开发高性能通信计算融合算子，优化端到端通信延迟
技术协作与生态建设：
）与训练、推理、自研软硬件等团队协作，优化AI模型通信效率，支撑整体系统性能提升
）洞察集合通信技术趋势，推动自研通信库的架构演进与生态适配
AI 洞察
优缺点分析
优点
- 接触前沿技术（RDMA、NCCL、AI集群），技术深度极高
- 字节跳动平台提供大规模实战机会，团队技术氛围浓厚
- 岗位性能优化导向，成果直接提升AI模型效率，成就感强
- 技术门槛高，需要持续学习底层系统和网络知识
- 涉及多团队协作，沟通成本较大
缺点 / 挑战
- 工作强度可能较高，需应对复杂的性能优化问题
- 适合对底层系统有热情，喜欢挑战性能极限，追求技术深度成长的技术工程师
角色解读
- 成为分布式计算专家，主导通信库架构演进
- 向AI基础设施整体架构师发展，涵盖训练、推理、硬件协同
- 可转向AI训练/推理框架开发或底层硬件设计
- 负责集合通信库（CCL）的设计、开发与优化，提升多卡/多机通信效率
- 基于RDMA和Scale-up等互联技术，研发高速通信库及相关工具
- 分析AI集群通信瓶颈，进行性能调优和故障排查，解决分布式训练中的通信问题
- 与训练、推理等团队协作，推动通信与计算的融合，优化端到端延迟
- 扎实的分布式系统与网络通信知识，熟悉RDMA技术
- 熟悉常见集合通信算法（Ring、Tree等）和NCCL等库的实现原理
- 具备性能分析和调优能力，能独立解决复杂问题
- 了解Triton等工具，用于开发高性能通信计算融合算子
申请策略
- 简历中强调对集合通信算法的理解，可附上博客或开源贡献
- 准备一个分布式通信优化的完整案例，展示思路与成果
- 突出分布式系统或网络通信相关项目，尤其是RDMA、NCCL使用经验
- 量化展示性能优化成果（如延迟降低百分比、吞吐提升倍数）
- 体现复杂问题分析与解决能力，如故障排查案例
- 深入学习RDMA技术原理和NCCL源码
- 了解主流AI训练框架（如PyTorch、TensorFlow）的通信模型
- 实践使用Triton或CUDA进行算子开发
面试指南
- 从算法原理到实现细节逐步展开，必要时画图说明
- 结合具体案例说明调优步骤，强调测量-分析-优化-验证的循环
- 展现系统思维，权衡算法复杂度、硬件拓扑和扩展性
- 请解释AllReduce的Ring算法原理，并分析其优缺点
- 如何调试一个RDMA通信异常问题？请描述你的思路
- 你如何优化一个集合通信操作的带宽或延迟？
- 谈谈你对NCCL实现中一些关键设计（如拓扑感知）的理解
- 如何设计一个高效的多机通信策略，减少通信开销？
匹配度报告
70
综合匹配度
前沿技术栈、高成长性、薪资偏上，但工作强度较大且WLB不够明确。
适合人群
适合追求技术深度和成长，能接受较高工作强度的求职者。
最强匹配
成长发展匹配
最弱匹配
工作生活匹配
薪资福利80
成长发展90
工作生活40
使命价值70
薪资福利匹配
80较高
字节跳动薪资有竞争力，虽未明确，但行业地位和岗位稀缺性确保薪酬可观；福利优厚但未在JD中体现。
薪资信号未披露（AI估算：30K-50K/月）
成长发展匹配
90较高
岗位技术前沿，涉及RDMA、NCCL等顶尖技术，成长空间巨大；但JD未明确提及晋升通道。
技术前沿前沿/新兴技术
技术栈RDMA、NCCL、AI集群、集合通信、Triton
业务类型profit_center
工作生活匹配
40较低
仅现场办公，且岗位特性可能涉及高强度优化工作；JD未提及WLB或弹性工作。
工作模式仅现场办公
办公地点未明确
加班情况未提及（无法判断）
使命价值匹配
70中等
AI行业高速增长，技术岗社会影响力中性，但岗位推动AI计算创新，有一定意义感。
行业发展高速增长赛道
社会影响中性/一般
创新程度积极采用新技术
Watch Jobs