阿里巴巴
千问Qwen训练Infra前沿技术研究-阿里星
千问Qwen训练Infra前沿技术研究-阿里星
发布于 大约 5 小时前普通员工/个人贡献者
杭州市 / 北京市
专家级经验
全职员工
仅现场办公
博士
人工智能
Ai系统
Cuda
Deepspeed
Gpu架构
Megatron
Pytorch
分布式训练
并行计算
高性能计算
AI 估算 · 50k–80k
职位详情
关于这个职位
该职位隶属于阿里巴巴千问Qwen团队，专注于大模型训练基础设施的前沿技术研究，涉及超大规模分布式训练系统、软硬协同与底层算子优化、长上下文与多模态训练系统等方向
你将参与突破大模型算力瓶颈，推动千问系列模型的高效迭代与大规模落地，适合对AI系统底层技术有极客热情、追求技术极致的顶尖博士或硕士毕业生
最低要求
来自全球Top高校计算机科学、人工智能、电子工程、体系结构或相关领域应届博士/顶尖硕士毕业生
在计算机系统、高性能计算（HPC）、分布式系统、GPU架构、深度学习框架底层等领域有扎实的理论基础和工程实践经验，并至少在其中一个方向（如万卡集群训练、算子优化）产生具有行业影响力的创新性成果或落地经验
在国际顶级计算机系统/体系结构会议或期刊（如OSDI、SOSP、ASPLOS、MLSys、EuroSys、ISCA等）以一作身份发表过论文，或在知名开源AI系统社区（如PyTorch, Megatron, DeepSpeed, vLLM, TensorRT-LLM等）有核心代码贡献，或在ASC、SC等超算竞赛中取得优异成绩
具备极其扎实的代码功底，精通C++/Python，熟练掌握CUDA/Triton等GPU编程技术
深入理解主流框架及分布式训练框架（如Megatron, DeepSpeed,等）的底层原理与源码
ACM/ICPC、TopCoder等编程比赛获奖者，或有丰富底层性能调优经验者优先
持续关注AI系统与硬件架构的前沿演进（如新型加速卡、高速互联、下一代并行范式等）
不满足于“调包”或“跟随开源”，有志于从零到一构建或定义下一代大模型的基础设施与系统底座
具备优秀的跨团队沟通与协作意识，能够与算法研究员、硬件工程师及基础架构团队紧密配合（如软硬协同优化、算法与系统联合设计），推动前沿系统技术快速落地，为千问大模型的迭代与业务爆发提供坚实算力支撑
工作职责
超大规模分布式训练系统
（1）并行策略与通信优化：设计并优化超大规模模型的高效分布式训练架构（如3D/4D/5D并行），突破万卡集群的通信与显存瓶颈
（2）训练稳定性与容错机制：构建高可靠的训练容错与诊断系统，实现长稳训练、断点极速恢复与集群故障自动隔离，保障千亿/万亿参数模型的高效迭代
软硬协同与底层算子优化
（1）高性能自定义算子研发：深入异构硬件底层，基于CUDA/Triton/TileLang/CuteDSL等开发高性能算子（如FlashAttention），实现计算密集型与访存密集型任务的极致加速
（2）软硬协同与架构调优：探索软硬件协同设计，针对特定硬件架构进行指令集与内存层级的深度调优，充分释放新型加速卡的算力潜能
长上下文与多模态训练系统
（1）长上下文训练优化：针对超长序列场景，设计高效的注意力机制与显存管理策略，突破长文本训练的算力与显存限制，提升模型长程理解能力
（2）多模态训练管线构建：打造支持文本、图像、音视频等异构数据的高效多模态训练系统，优化多模态数据的加载、预处理与混合并行调度
优先资格
主导或深度参与过千卡/万卡级集群建设或核心推理引擎研发的人选优先
ACM/ICPC、TopCoder等编程比赛获奖者，或有丰富底层性能调优经验者优先
AI 洞察
优缺点分析
优点
- 处于AI大模型最前沿，参与定义下一代基础设施，技术影响力巨大
- 阿里巴巴平台资源丰富，提供万卡级集群和顶尖团队协作机会
- 薪资待遇优厚，作为阿里星项目，职业发展通道清晰
- 技术难度极高，需死磕底层，工作强度大，可能面临高压
- 需要持续学习，紧跟硬件和算法演进，知识更新快
- 竞争激烈，需在顶级会议或开源社区有突出成果
- 适合对系统底层有极客热情、追求技术极致、能承受高强度研发的顶尖博士或硕士毕业生
缺点 / 挑战
暂无明显挑战项
角色解读
- 从系统工程师成长为AI基础设施领域的专家，主导下一代大模型训练系统的设计
- 有机会晋升为技术负责人，带领团队攻克算力瓶颈，影响整个AI行业
- 可横向拓展至推理引擎、AI芯片等方向，成为软硬协同领域的领军人物
- 设计并优化超大规模分布式训练系统，包括并行策略、通信优化和容错机制，支撑千亿/万亿参数模型的训练
- 开发高性能自定义算子，基于CUDA/Triton等工具实现计算和访存密集型任务的极致加速
- 探索软硬协同设计，针对新型硬件架构进行深度调优，释放算力潜能
- 构建长上下文和多模态训练系统，优化数据加载、预处理和混合并行调度
- 精通C++/Python，熟练掌握CUDA/Triton等GPU编程技术
- 深入理解分布式训练框架（如Megatron、DeepSpeed）的底层原理和源码
- 具备扎实的计算机系统、HPC、分布式系统、GPU架构等理论基础
- 有顶级会议论文或开源社区核心贡献，或超算竞赛获奖经历
申请策略
- 了解千问模型的技术细节，展示对Qwen系列的兴趣
- 准备技术分享，展示系统设计能力
- 突出在分布式系统、GPU编程或高性能计算方面的项目经验和成果
- 强调顶级会议论文、开源贡献或竞赛获奖，展示技术深度
- 量化成果，如训练效率提升、集群规模等
- 展示对底层原理的理解，如框架源码分析、算子优化案例
- 深入学习CUDA和Triton，尝试编写高性能算子
- 研究Megatron、DeepSpeed源码，理解并行策略实现
面试指南
- 从系统角度分析问题，结合并行策略、通信优化和硬件特性
- 用具体案例说明，展示工程实践和量化结果
- 强调系统性思维，考虑可扩展性和稳定性
- 如何设计一个万卡集群的分布式训练方案？
- 如何优化一个自定义算子的性能？
- 如何解决训练中的显存不足问题？
- 如何实现训练容错和断点恢复？
- 你对软硬协同设计有什么见解？
职位点评
78
综合评分
顶尖技术挑战、高薪高成长，但工作强度大、WLB一般。
从起薪待遇、成长路径、工作节奏和岗位方向综合评估，方便比较职业起点。
更适合这类人
该职位最适合追求技术成长、渴望在AI基础设施领域做出突破的顶尖人才，愿意接受高强度工作。
表现最好
成长发展
相对薄弱
工作生活
薪资福利85
成长发展95
工作生活40
使命价值80
薪资福利
85较高
阿里星项目提供极具竞争力的薪资和福利，作为上市巨头，稳定性高，补偿性动机得到较好满足。
薪资信号未披露（AI估算：50K-80K/月）
成长发展
95较高
该职位处于AI系统最前沿，技术挑战大，成长空间极高，发展性动机是核心优势。
技术前沿前沿/新兴技术
技术栈CUDA、Triton、分布式训练、GPU架构、Megatron、DeepSpeed
业务类型profit_center
工作生活
40较低
工作地点在北京/杭州/上海，需现场办公，未提及弹性工作，且高强度研发可能影响工作生活平衡。
工作模式仅现场办公
办公地点未明确
加班情况未提及（无法判断）
使命价值
80较高
AI大模型是高速增长赛道，推动技术发展，社会影响力较大，意义感较强。
行业发展高速增长赛道
社会影响正向社会影响力较高
使命信号引领下一代人工智能的发展
创新程度开拓性创新（行业首创）
Watch Jobs