稀宇科技
大模型训练框架工程师-2028届
大模型训练框架工程师-2028届
发布于 8 分钟前普通员工/个人贡献者
全职员工仅现场办公研究与开发 (研发)
研究与开发 (研发)
Cuda
Deepspeed
Gpu性能优化
Megatron-Lm
Pytorch
分布式系统
大模型训练
并行计算
系统稳定性
值不值得投
80综合评分
综合评分 80
前沿AI训练系统研发，技术成长天花板极高，生活平衡度未知。
从起薪待遇、成长路径、工作节奏和岗位方向综合评估，方便比较职业起点。
薪资怎么样
30K
比研究与开发 (研发)中位数高
发布情况
新岗位 · 今天发布
公司情况
这家公司招聘很活跃
95 个在招 · 其中研究与开发 (研发) 7 个
市场机会
选择面较广
上海 · 研究与开发 (研发) · 约 1150 个在招
职位详情
关于这个职位
该职位负责建设和优化大语言模型（LLM）的分布式训练框架，旨在提升千卡/万卡规模下的训练效率与系统稳定性
你需要与算法团队深度协作，解决训练系统中的并行策略、通信开销、显存管理、容错恢复等核心挑战，直接驱动模型的迭代速度和能力上限
最低要求
基本要求：
编程能力扎实，具备清晰的系统设计思路和良好的工程品味
对大模型训练系统、分布式系统、并行计算、GPU 性能优化或大规模数值正确性保障中的某一方向有深入理解
能够独立定位系统问题，提出可落地的优化方案并推动实施
关注算法与系统前沿，能够将论文或开源框架中的思路转化为工程判断
工作职责
建设和优化大规模训练框架，支撑千卡/万卡级别训练任务
优化数据并行、张量并行、流水线并行、专家并行等并行策略
解决大规模训练中的通信、显存、Checkpoint、容错恢复、数值正确性校验和稳定性问题
分析模型结构、训练策略与系统效率之间的关系，提升训练吞吐、资源利用率和迭代效率
跟进 PyTorch、Megatron-LM、DeepSpeed、TorchTitan 等训练框架及相关前沿工作，并结合实际训练场景落地
优先资格
加分项：
熟悉 PyTorch、Megatron-LM、DeepSpeed、Colossal-AI、TorchTitan 等训练框架，并有深入使用或贡献经验
有千卡/万卡规模训练系统经验
熟悉 NCCL、RDMA、CUDA、Triton、通信优化、显存优化、Checkpoint 优化、大规模训练数值稳定性与正确性保障等技术
有 MoE 训练、长序列训练、混合并行策略优化或训练稳定性治理经验
AI 洞察
优缺点分析
优点
- 直接参与构建大模型的核心基础设施，技术影响力大，能快速积累顶级工程经验
- 与顶尖算法团队合作，能够系统性地理解AI从理论到落地的完整链条
- 岗位对系统深度有极高要求，成长速度快，技术壁垒高
- 技术难度极高，需要同时深入理解算法、系统和硬件，学习曲线陡峭
- 工作涉及系统底层，问题排查和优化往往复杂且耗时，对耐心和毅力要求高
- 适合对计算机系统底层充满热情，追求技术深度，具备强大问题分析和解决能力，并能耐受复杂系统开发过程的毕业生
缺点 / 挑战
- 处于AI技术发展的最前沿，接触并解决业界最前沿、最有挑战性的工程问题
- 大模型训练资源密集，项目通常时间紧迫，可能面临较高的交付和稳定性压力
角色解读
- 技术专家路线：深耕分布式训练系统，成为领域内解决复杂系统问题的权威
- 架构师路线：负责设计下一代AI训练平台的整体架构，定义技术标准和方向
- 技术管理路线：带领团队负责训练框架或AI基础设施的规划、建设与落地
- 设计、实现和优化支撑超大规模（千卡/万卡）模型训练的分布式系统框架
- 与算法研究员紧密合作，理解模型需求，将算法设想转化为高效、稳定的系统实现
- 攻克训练过程中的系统瓶颈，如通信效率、显存管理和容错恢复，确保训练任务可靠执行
- 持续跟进并集成业界最新的训练技术（如PyTorch生态），提升公司训练基础设施的竞争力
- 扎实的编程能力和系统设计能力，能够从底层理解并优化大规模并行计算
- 深入的分布式系统知识，对数据/张量/流水线等并行策略有实际理解或经验
- 精通GPU编程和性能优化，熟悉CUDA、NCCL等底层通信和计算库
- 对模型训练全流程（数据加载、前向/反向传播、优化器、通信）有系统性认知
申请策略
- 深入研究MiniMax或同类公司在大模型训练系统方面的公开技术分享或博客，了解其技术栈和关注点
- 在面试中准备好讨论一个你做过的、有深度的系统级项目，能够清晰地阐述问题背景、技术选型、优化思路和最终效果
- 重点突出任何与分布式计算、高性能计算、GPU编程或大规模数据处理相关的项目经历，即使是课程作业或开源贡献
- 详细描述你在项目中解决的具体系统问题（如性能瓶颈、通信延迟、内存溢出）以及你采取的优化手段和量化结果
- 体现你对训练框架（如PyTorch）或分布式训练概念的理解，可附上相关技术博客、论文阅读笔记或代码仓库链接
- 强调你扎实的编程功底（C++/Python）和对操作系统、网络、并行编程等基础知识的掌握
- 系统学习并实践至少一种分布式训练框架（如PyTorch DDP/FSDP, DeepSpeed），尝试复现经典的分布式训练Demo
- 深入学习GPU体系结构和CUDA编程模型，理解线程、内存层次、Warp执行等概念，并尝试编写简单的CUDA核函数
面试指南
- 对于项目经验问题，使用STAR法则：清晰描述Situation（背景）、Task（任务）、Action（你的具体行动，重点讲系统层面的设计和优化）、Result（量化结果和你的收获）
- 对于概念理解问题，先给出清晰定义，然后对比分析，结合具体例子或假设场景说明
- 例如，在解释并行策略时，可以联系具体的模型（如Transformer）和框架实现
- 对于开放性的优化分析问题，可以从系统分层角度（计算、通信、内存、I/O）或训练流程（数据加载、模型构建、训练循环、评估）逐步展开，并提出监控和排查的思路
- 请介绍一个你参与过的涉及高性能计算或分布式系统的项目，遇到了哪些系统级挑战？
- 你对数据并行和模型并行（张量并行/流水线并行）的理解是什么？各自的适用场景和优缺点？
- 如果你负责优化一个千卡集群上的训练任务吞吐，你会从哪些方面入手分析？
- 请解释一下Checkpoint（检查点）在分布式训练中的作用，以及如何设计一个高效且容错的Checkpoint机制？
职位点评
薪资福利75
成长发展90
工作生活65
使命价值85
薪资福利
75中等
JD未明确薪资，但作为B轮融资的AI明星公司，校招技术岗通常提供有市场竞争力的薪酬包。
薪资信号面议 (20K-40K/月)
成长发展
90较高
该职位专注于前沿的大模型训练系统开发，要求深入的技术积累，并提供了清晰的成长路径和技术挑战。
技术前沿前沿/新兴技术
技术栈大模型训练、分布式系统、并行计算、PyTorch、DeepSpeed、Megatron-LM、GPU性能优化、CUDA、NCCL
成长机会将论文或开源框架中的思路转化为工程判断、跟进...前沿工作...并结合实际训练场景落地
业务类型profit_center
工作生活
65中等
JD未提及办公模式或WLB相关信息，但大模型训练系统开发通常涉及高压环境和复杂问题攻坚。
工作模式未明确
办公地点市区核心地段
加班情况未提及（无法判断）
使命价值
85较高
该职位直接服务于通用人工智能（AGI）的基础设施建设，处于行业技术演进的核心环节，具有高创新性和行业影响力。
行业发展高速增长赛道
社会影响中性/一般
使命信号训练顶尖大模型、提升训练吞吐、资源利用率和迭代效率
创新程度开拓性创新（行业首创）
Watch Jobs