中国电信
多模态预训练框架研发工程师
多模态预训练框架研发工程师
发布于 大约 9 小时前普通员工/个人贡献者
全职员工仅现场办公人工智能
人工智能
Cuda
Deepspeed
Megatron
Pytorch
分布式训练
多模态
性能优化
值不值得投
76综合评分
综合评分 76
央企大平台，前沿技术栈，薪资稳定，但工作强度可能较大。
从薪资福利、成长空间、工作节奏和岗位方向综合评估，方便横向比较。
薪资怎么样
40K
比人工智能中位数低
发布情况
新岗位 · 今天发布
公司情况
这家公司招聘很活跃
约 2970 个在招 · 其中人工智能 37 个
市场机会
选择面较广
上海 · 人工智能 · 54 个在招
职位详情
关于这个职位
该职位负责中国电信大模型训练框架的研发与优化，涉及万卡级分布式训练、多模态模型结构设计以及文生图/视频等业务的性能加速
你将深入底层，使用PyTorch、DeepSpeed、Megatron等工具，解决大规模训练中的性能瓶颈，推动前沿AI技术在电信场景的落地
适合对分布式系统和高性能计算有浓厚兴趣、追求技术深度的工程师
最低要求
熟练使用 PyTorch，具备 DDP/FSDP 性能分析与优化能力
深入理解 DeepSpeed、Megatron 等框架，掌握 3D 并行、ZeRO 机制、Flash-Attention 的原理与优化方向
有 ViT、Stable Diffusion、DiT 模型训练优化经验者优先
熟练掌握 CUDA/Triton 性能优化，有算子编写经验者优先
对大模型前沿技术敏锐，有实际调参、效果评测经验
工作职责
参与开发优化大模型训练框架，支持单任务万卡以上规模高效稳定训练
参与 NLP、多模态大模型结构设计，并联合业务进行模型训练效率和效果验证
参与文生图、文生视频（DiT）、文生3D等业务的训练性能加速
参与低精度训练（FP8/Int8）性能优化、大窗口（Long Context）训练性能优化及业务推广
AI 洞察
优缺点分析
优点
- 技术前沿，涉及大模型训练框架、多模态等热门领域，能积累深厚的技术经验
- 公司平台大，资源丰富，有机会接触万卡级训练场景，提升解决复杂问题的能力
- 技术难度高，要求对分布式系统、底层优化有深入理解，学习曲线陡峭
- 工作强度可能较大，需要持续跟进前沿技术，不断迭代优化
- 作为央企，可能面临一定的流程和层级，创新节奏可能不如互联网公司快
缺点 / 挑战
- 薪资水平较高，福利待遇稳定，职业发展路径清晰
- 适合对分布式训练和性能优化有浓厚兴趣，具备扎实底层功底，喜欢挑战技术难题的工程师
角色解读
- 从训练框架优化工程师成长为分布式系统专家，负责大规模训练基础设施的架构设计
- 向多模态大模型方向深入，成为模型设计与训练优化的核心技术专家，参与前沿研究
- 有机会晋升为技术团队负责人，带领团队攻克训练效率与效果难题，推动业务落地
- 负责开发与优化大模型训练框架，确保在万卡规模下高效稳定运行，涉及分布式并行策略、通信优化等
- 参与多模态大模型（如NLP、视觉、文生视频）的结构设计与训练效果验证，与业务团队协作推进模型落地
- 针对文生图、文生视频等业务场景，进行训练性能加速，包括算子优化、内存优化等
- 探索低精度训练（FP8/Int8）和长上下文训练的性能优化，提升训练效率并推广到业务中
- 精通PyTorch，具备DDP/FSDP性能分析与优化能力，能定位并解决分布式训练中的瓶颈
- 深入理解DeepSpeed、Megatron等框架，掌握3D并行、ZeRO、Flash-Attention等原理与优化方向
- 熟悉CUDA/Triton编程，有算子编写和性能调优经验，能针对特定模型进行底层优化
- 对前沿大模型技术保持敏锐，具备实际调参和效果评估经验，能快速迭代优化模型
申请策略
- 了解中国电信在AI领域的布局，特别是大模型在电信行业的应用场景
- 在面试中强调对训练框架优化的热情和实际项目经验，展示解决问题的能力
- 突出分布式训练优化经验，如使用DeepSpeed/Megatron进行大规模训练调优的案例
- 强调CUDA/Triton算子编写和性能优化项目，展示底层优化能力
- 如果有大模型训练经验（如ViT、Stable Diffusion、DiT），务必详细描述
- 展示对前沿技术的关注，如FP8、长上下文等，体现技术敏锐度
- 深入学习DeepSpeed和Megatron的源码，理解并行策略和通信优化细节
- 练习CUDA编程，掌握算子优化技巧，尝试编写并优化自定义算子
面试指南
- 对于技术问题，采用STAR法则：情境、任务、行动、结果，突出你的贡献和量化成果
- 对于原理性问题，先解释基本概念，再结合实践案例说明应用和优化方向
- 对于开放性问题，展示你的思考过程，体现对技术趋势的理解
- 请描述一次你优化PyTorch分布式训练性能的经历，遇到了哪些问题，如何解决？
- DeepSpeed和Megatron在3D并行上有什么异同？如何选择？
- 解释Flash-Attention的原理，它如何提升训练效率？
- 如何优化一个CUDA算子？请举例说明
- 你对低精度训练（FP8/Int8）有什么了解？在训练中如何权衡精度和速度？
职位点评
薪资福利80
成长发展85
工作生活60
使命价值70
薪资福利
80较高
该职位薪资水平较高，福利待遇稳定，符合补偿性动机。
薪资信号未披露（AI估算：30K-50K/月）
成长发展
85较高
职位涉及前沿技术，提供良好的技能成长机会，发展性动机满足度高。
技术前沿前沿/新兴技术
技术栈PyTorch、DeepSpeed、Megatron、CUDA、Triton、多模态、FP8
业务类型ambiguous
工作生活
60中等
工作地点在上海市区，但工作强度可能较大，生活化动机满足度一般。
工作模式仅现场办公
办公地点市区核心地段
加班情况未提及（无法判断）
使命价值
70中等
大模型技术推动行业进步，但具体社会影响不明确，意义感动机满足度中等。
行业发展高速增长赛道
社会影响中性/一般
创新程度积极采用新技术
Watch Jobs