美团
【Longcat实习】大模型训练AI工程师
【Longcat实习】大模型训练AI工程师
发布于 大约 18 小时前实习/见习
北京市
初级经验
实习生
仅现场办公
硕士
软件工程
分布式系统
GPU
PyTorch
强化学习
多模态
CUDA
NPU
Megatron-LM
DeepSpeed
AI 估算 · 6k–10k
大厂实习薪资，结合技术岗位稀缺性和硕士学历，月薪在6000-10000元区间。
职位详情
关于这个职位
该职位是美团核心本地商业-基础研发平台的大模型训练AI工程师实习岗，专注于千亿级参数大模型的分布式训练系统设计与优化
你将参与文本/多模态预训练、强化学习框架、异构算力适配和高性能内核开发等前沿技术方向，与算法和硬件团队紧密协作，推动训练效率的持续提升
适合对大模型训练系统有浓厚兴趣、具备较强编程和分布式系统基础的硕士及以上在校生
最低要求
计算机、电子工程、数学等相关专业硕士及以上学历
有一定大模型训练/推理/分布式系统相关开发经验
熟悉PyTorch/Megatron-LM/DeepSpeed等主流框架中至少一个的内部实现
熟悉至少一种分布式并行策略（DP/TP/PP/SP/EP）的原理和实现细节，或有高性能算子开发经验
扎实的C++/Python/CUDA编程能力，有性能优化经验
工作职责
方向一：文本/多模态预训练
设计和优化千亿级参数大模型的分布式训练系统，支持文本基座预训练和原生多模态训练的正确性、性能和稳定性
负责训练框架核心模块（通信、调度、容错、Checkpoint、数据加载）的架构设计和性能优化，在同等硬件条件下持续提升训练吞吐
协同算法迭代和硬件演进，针对新模型架构（MoE、超长序列、多模态融合）快速完成训练适配和性能验证
作为工程Pipeline的上游起点，持续推进训练Infra的架构迭代方向
方向二：强化学习框架
构建并提升在线RL训练系统的性能和Scale能力，打通策略更新、环境交互、奖励建模的端到端训练流程
支持Chat/Thinking/Agentic以及未来多种RL范式（PPO/GRPO/DPO等），和算法Codesign推进RL架构迭代
设计高效的Actor-Critic架构、经验回放机制和分布式采样系统
负责RL训练的性能瓶颈分析和优化，包括GPU利用率提升、通信开销降低、训练稳定性保障
方向三：异构算力适配
建设迭代多种异构算力（GPU/NPU等）的验证和适配方案，包括稳定性保障、精度验证和高性能runtime
开发调优GPU和NPU架构的通信算子，推进超节点架构的最佳实践
面向RL采样场景，深入优化NPU架构的推理性能
跟踪硬件生态发展，评估新硬件的技术价值，输出选型建议和规模化落地方案
方向四：高性能内核
定制开发高性能计算内核，深入发掘GPU/NPU等不同硬件架构的优化空间
推进算子开发范式的迭代，探索自动化算子生成（如LLM辅助生成高性能kernel）
优先资格
有实际参与过10B+参数规模模型训练的项目经验优先
AI 洞察
优缺点分析
优点
- 美团核心业务部门，接触千亿级大模型训练的真实场景
- 技术栈前沿，涵盖多模态、强化学习、异构计算等热门方向
- 团队技术氛围浓厚，有机会与算法和硬件团队紧密合作
- 工作强度可能较大，需要快速学习并适应分布式系统调试
- 适合对AI系统底层有强烈热情、具备扎实编程和分布式知识的研究生，希望在实习中深入参与顶尖大模型训练项目
缺点 / 挑战
- 实习岗位对深度学习理论基础和工程能力要求较高
- 实习生需在短期内产出成果，有一定压力
角色解读
- 从实习积累大模型训练系统经验，可转向正式AI工程师岗位
- 深入底层硬件和系统优化，成为分布式训练或AI Infra专家
- 未来可向算法研究员或系统架构师方向发展
- 设计并优化千亿级大模型的分布式训练系统，包括通信、调度、容错等核心模块
- 参与强化学习训练框架的构建，支持PPO/GRPO等算法的高效迭代
- 适配GPU/NPU等异构算力，开发高性能计算内核和通信算子
- 扎实的Python/C++/CUDA编程能力，有性能优化经验
- 熟悉PyTorch、Megatron-LM或DeepSpeed等分布式训练框架
- 理解分布式并行策略（DP/TP/PP等）或高性能算子开发
申请策略
- 提前了解美团在AI基础设施上的公开技术分享，展示对业务的理解
- 准备一道分布式训练或大模型相关的问题，展示思考深度
- 突出分布式训练或高性能计算相关项目经验，如参与过10B+参数模型训练
- 强调PyTorch/Megatron/DeepSpeed等框架的使用或二次开发经历
- 展示C++/CUDA性能优化成果，如算子加速或通信优化
- 熟悉Megatron-LM或DeepSpeed源码，了解分布式并行策略实现
- 动手实践GPU编程（CUDA）和性能 profiling 工具（如Nsight）
面试指南
- 对于系统设计类问题，先明确问题背景和约束，再分模块提出方案，最后评估优劣
- 对于经验类问题，使用STAR法则（情境、任务、行动、结果）结构化回答
- 请解释Megatron-LM中TP和PP的区别及实现细节
- 如何优化大模型训练中的通信开销？
- 描述一次你解决分布式训练性能瓶颈的经历
- RL训练中PPO算法如何实现并行化？
- CUDA kernel优化有哪些常用技巧？
- 复习分布式训练论文（如GSPMD、DeepSpeed ZeRO），理解关键设计
职位点评
70
综合评分
大厂实习，前沿技术栈，极大成长机会，但薪资中等且WLB一般。
更适合这类人
优先追求技术成长和前沿项目经验的求职者，对薪资和WLB要求不高。
表现最好
成长发展
相对薄弱
工作生活
薪资福利65
成长发展95
工作生活50
使命价值70
薪资福利
65中等
实习薪资处于市场中等水平，但美团作为大厂福利较完善，但实习岗位通常无年终奖等长期激励。
薪资信号未披露（AI估算：6K-10K/月）
成长发展
95较高
职位涉及大模型训练前沿技术栈，提供导师制和实际项目经验，成长空间极大。
技术前沿前沿/新兴技术
技术栈大模型训练、分布式系统、PyTorch、Megatron-LM、DeepSpeed、CUDA、强化学习、多模态
业务类型profit_center
工作生活
50较低
现场办公且未提及弹性工作制，大厂实习通常工作强度较大，WLB一般。
工作模式仅现场办公
办公地点市区核心地段
加班情况未提及（无法判断）
使命价值
70中等
AI大模型处于高速发展期，技术价值高，但作为实习岗直接社会影响力有限。
行业发展高速增长赛道
社会影响中性/一般
创新程度积极采用新技术
Watch Jobs