集团安全部-高级大模型训练工程师-AI Infra

优缺点分析

角色解读

• 可在 AI Infra 方向深耕，成长为训练框架/平台方向的资深专家或技术负责人
• 也可横向延展到推理加速、集群调度、AI 编译器等相关基础设施领域，路径较宽
• 积累大规模集群与前沿训练范式的实战经验后，在行业内具备较强稀缺性与议价能力
• 负责大模型训练平台的全栈保障，保证大规模训练任务稳定运行并把 GPU 利用率维持在高效水平
• 面向业务方各种新的大模型训练需求做快速支持，包括 Agentic RL 训练等创新业务的开发与保障
• 持续做训练性能优化与效果调优，推动训练效率向行业顶尖水平靠拢
• 必须精通 Megatron、NeMo、DeepSpeed 等大模型分布式训练框架，理解并行策略与显存/通信优化
• 扎实的工程能力，C++、Python、CUDA 至少精通其一以上，能用 AI 工具链（AI native）解决训练链路问题
• 具备算法研究经验，能读懂并复现论文级训练方法，同时具备复杂训练问题的定位与系统化排查方法论

申请策略

• 投递前梳理清楚自己在训练平台「稳定性保障」和「性能优化」两条主线上的代表性成果，面试大概率围绕这两点展开
• 关注该团队在安全场景下的大模型应用方向，思考训练基础设施如何服务于安全业务需求，能在沟通中体现业务理解
• 突出你实际负责过的训练规模（卡数、模型参数规模、集群类型）与稳定性/GPU 利用率的量化提升结果
• 写明对 Megatron、DeepSpeed、NeMo 等框架的使用深度，例如改造过哪些并行策略、通信或显存优化点
• 体现算法研究能力，如复现过的论文方法、发表或内部技术沉淀、参与过的训练效果调优案例
• 展示复杂训练问题的排障案例，用「问题—定位过程—解决方案—结果」的结构呈现方法论
• 如果框架经验偏单一，可提前补齐 Megatron-LM 与 DeepSpeed 的并行策略、ZeRO、通信优化等细节对比
• 强化 CUDA 与性能剖析工具（Nsight、profiler）的实操能力，这在 GPU 利用率优化上很关键

面试指南

• 排障类问题用「现象描述—分层假设（框架/通信/硬件/数据）—验证手段—根因—修复与防复发」的结构回答，突出方法论而非单点运气
• 技术选型类问题先讲清业务约束（模型规模、集群互联、团队栈），再对比方案在并行策略、易用性、性能上的差异，最后给出取舍理由
• 优化类问题务必给出基线数据、优化动作和量化收益，形成「可测量—可归因—可复现」的闭环
• 请描述一次你负责的大规模训练任务出现不稳定（如 loss 抖动、hang 住、通信超时）的排查过程与最终解决方案
• 在 Megatron 和 DeepSpeed 之间你会如何做选型？各自的并行策略与适用场景有什么差异？
• 你如何把 GPU 利用率从较低水平提升到较高水平？具体做过哪些优化手段，效果如何量化？
• 如果要在现有训练平台上支持 Agentic RL 训练，你会如何设计训练链路与资源调度？
• 你如何用 AI native 的方式（工具/模型辅助）提升训练问题定位与平台开发效率？