小红书
大模型强化学习训练引擎研发工程师（练习生）
大模型强化学习训练引擎研发工程师（练习生）
发布于 2 小时前实习/见习
实习生仅现场办公机器学习工程
机器学习工程
Cuda
Deepspeed
Megatron-Lm
Nccl
Pytorch
Zero
分布式训练
强化学习
值不值得投
78综合评分
综合评分 78
核心AI团队实习岗，技术栈极具前沿性，大牛指导成长空间大，适合追求技术深度的算法与系统方向学生。
从薪资福利、成长发展、工作生活和使命价值四个维度综合评估，方便比较实习机会。
薪资怎么样
9千
比机器学习工程中位数低
发布情况
新岗位 · 今天发布
公司情况
这家公司招聘很活跃
约 2080 个在招 · 其中机器学习工程 29 个
市场机会
选择面较广
北京 · 机器学习工程 · 约 470 个在招
职位详情
关于这个职位
该职位是小红书大模型团队的实习生岗位，主要参与千亿级多模态大模型的分布式强化学习训练框架研发与性能调优
你将接触百卡至千卡级集群的并行策略优化、断点续训及高性能算子集成等前沿技术，并在资深专家指导下提升底层系统与算法工程能力
最低要求
优秀的代码能力、数据结构和基础算法功底，熟悉Python开发，熟悉 Linux/Git开发环境
有较好的学习能力、沟通协作能力和自驱力，能和团队一起探索新技术，推进技术进步
熟悉至少一种主流基础深度学习训练框架（TensorFlow/PyTorch/PaddlePaddle等）的使用和实现
了解主流LLM模型结构，使用过至少一种主流LLM训练框架（Megatron-LM/DeepSpeed/veRL等）
工作职责
参与千亿级大模型的分布式强化学习 RL 训练框架研发，提升百卡~千卡级训练吞吐与资源利用率
参与100B以上多模态强化学习算法流程适配（如DAPO等），各领域任务的 RL 正确性验证
实验并调优不同并行策略（Tensor/ZeRO/FSDP/Pipeline Parallelism）在超大规模模型上的最佳配置组合
协助定位分析分布式训练中的关键性能瓶颈（如GPU利用率低、显存瓶颈、网络通信阻塞、I/O延迟等），设计并实施优化方案进行验证
参与研发/优化训练引擎的关键特性，如大规模集群下的稳定断点续训、高性能异步Rollout机制、以及高性能算子（Kernel）的集成与优化
优先资格
熟悉DP/TP/PP/ZeRO等分布式训练策略原理，有大模型训练调优分析经验者优先
熟悉至少一种AI编译加速组件者优先，包含但不限与TorchInductor/TVM/Triton/XLA等
了解并行计算、网络通信、系统优化和集群硬件架构等相关知识者优先
了解 GPU 硬件架构和 GPU 软件栈（CUDA，cuDNN)，具备一定的 GPU 性能分析的能力
熟悉NCCL/RDMA/IB/RoCE相关知识者优先
有优秀开源项目经历者优先
AI 洞察
优缺点分析
优点
- 接触行业最前沿的千亿级大模型与强化学习技术，技术栈极具含金量
- 有资深大牛指导，团队技术氛围浓厚，能快速提升底层系统与算法工程能力
- 核心AI团队，业务场景丰富，研究成果能直接落地于亿级用户产品
- 大模型分布式训练涉及底层硬件、网络通信与框架代码，技术门槛高，学习曲线陡峭
- 适合对AI底层系统、分布式训练有浓厚兴趣，具备扎实代码功底且渴望在超大规模模型领域深耕的计算机相关专业在校生
缺点 / 挑战
- 千卡级集群的性能调优和瓶颈排查难度大，需要极强的耐心与系统性排查能力
角色解读
- 在资深专家指导下，深入掌握超大规模分布式训练系统底层原理与性能调优实战经验
- 未来可向大模型基础架构专家、AI系统研发工程师或算法工程化专家方向发展
- 参与千亿级大模型的分布式强化学习训练框架研发，优化百卡至千卡级集群的训练吞吐与资源利用率
- 适配100B以上多模态强化学习算法流程，并进行各领域的正确性验证
- 调优Tensor/ZeRO/FSDP/Pipeline等并行策略，定位并解决GPU利用率、显存、网络通信等性能瓶颈
- 扎实的Python编程、数据结构与算法基础，熟练使用Linux和Git开发环境
- 熟悉PyTorch等主流深度学习框架，了解LLM模型结构及Megatron-LM/DeepSpeed等训练框架
- 具备分布式训练、AI编译加速、GPU硬件架构及网络通信（NCCL/RDMA）等相关知识
申请策略
- 在求职信或面试中展现对大模型训练痛点的独立思考，如显存墙、通信墙问题的解决思路
- 突出在PyTorch等深度学习框架上的项目经验，特别是涉及模型训练、分布式并行或性能优化的经历
- 展示对CUDA、Triton、NCCL等底层加速组件或网络通信协议的了解与实践
- 若有相关开源项目贡献（如DeepSpeed、Megatron等）或顶会论文，务必在简历中重点展示
- 提前阅读并尝试运行Megatron-LM、DeepSpeed或veRL的源码，理解其分布式并行策略的实现细节
- 复习CUDA编程基础，了解GPU内存层级与计算特性，掌握基本的性能分析工具（如Nsight Systems）
面试指南
- 针对系统调优问题，采用‘现象描述 -> 假设原因 -> 工具验证 -> 解决方案 -> 效果评估’的结构化排查思路
- 针对分布式策略问题，从‘计算负载、显存占用、通信开销’三个维度进行对比分析，并结合具体模型规模给出建议
- 请详细解释ZeRO优化的三个阶段分别解决了什么问题，以及它们在通信和计算上的开销差异
- 在千卡集群训练中，如果发现GPU利用率突然下降，你会如何排查和定位问题？
- 对比Tensor Parallelism和Pipeline Parallelism，说明它们各自的适用场景及通信开销
- 请描述你使用过的深度学习训练框架，并说明你是如何对其进行性能调优的
- 了解DAPO等强化学习算法吗？在多模态大模型中，RL训练流程与预训练有何不同？
- 深入复习分布式训练理论（DP/TP/PP/ZeRO），并准备1-2个自己亲手做过的性能优化或框架开发项目案例
职位点评
薪资福利75
成长发展95
工作生活50
使命价值85
薪资福利
75中等
作为核心AI团队实习岗，实习津贴处于市场较高水平，但实习性质决定了其绝对薪资上限。
薪资信号未披露（AI估算：6千–1.2万/月）
成长发展
95较高
岗位涉及千亿级大模型底层训练引擎研发，技术极具前沿性，且明确提到有大牛指导，成长空间极大。
技术前沿前沿/新兴技术
技术栈Python、PyTorch、Megatron-LM、DeepSpeed、veRL、ZeRO、Triton、CUDA、NCCL、RDMA
成长机会有大牛带着成长
业务类型ambiguous
工作生活
50较低
JD未提及工作模式与加班情况，但大模型底层研发通常面临较高的技术挑战与项目压力，WLB情况无法判断。
工作模式未明确
办公地点未明确
加班情况未提及（无法判断）
使命价值
85较高
参与千亿级大模型与强化学习前沿研发，推动AI技术边界，具有较高的技术使命感与行业前景。
行业发展高速增长赛道
社会影响中性/一般
创新程度开拓性创新（行业首创）
Watch Jobs