AI研究算法工程师-大模型训练/推理Infra方向(J13367)

优缺点分析

角色解读

• 可在技术方向深耕，成为大模型训练/推理领域的专家或架构师
• 也可转向技术管理，带领团队攻坚底层系统难题，或跨团队协调推进训推一体架构
• 未来可拓展至AI基础设施全栈，从芯片适配到上层算法优化形成闭环能力
• 负责大规模分布式训练系统的通信优化、显存管理和计算调度，确保万卡集群高效稳定运行
• 构建强化学习后训练系统，优化PPO、GRPO等算法工程流水线，设计AgentRL分布式环境交互
• 主导推理引擎全链路加速，包括算子融合、KV Cache优化、动态批处理、量化推理等，适配国产芯片
• 精通C++和Python，具备扎实的系统编程能力，熟悉Transformer模型原理和PyTorch底层机制
• 掌握至少一种分布式训练框架（DeepSpeed/Megatron-LM等）或推理框架（vLLM/TensorRT-LLM等）的优化经验
• 具备高性能算子开发能力，熟悉CUDA/Triton等，能独立进行GPU算子开发与性能调优

申请策略

• 提前了解科大讯飞的星火大模型技术路线，在面试中展示对多模态、MoE等新架构的理解
• 重点突出分布式训练或推理相关的项目经历，特别是使用DeepSpeed/Megatron-LM等框架的优化经验
• 强调高性能计算或算法竞赛获奖（如ICPC、SC、ASC等），体现工程能力和竞争力
• 如有开源贡献或顶会论文，务必列出，特别是与训推框架、算子开发相关的工作
• 补充强化学习训练系统的工程实践，如PPO/GRPO的分布式实现
• 深入学习国产芯片（如华为Ascend）的编程模型，熟悉昇腾CANN或类似平台

面试指南

• 回答技术问题时，先梳理核心原理，再结合具体实践案例说明，展示系统思考能力
• 对于优化问题，采用“现状-瓶颈-方案-效果”的结构，突出量化指标（如吞吐、延迟提升百分比）
• 请详细解释DeepSpeed的ZeRO优化策略，以及你如何调优通信以提升效率？
• 针对大模型推理，如何优化KV Cache？有哪些常用技术？
• 在分布式训练中，你遇到过哪些显存瓶颈？如何突破？
• 描述一个你参与的性能调优案例，从问题定位到解决方案的完整过程
• 复习Transformer模型结构及PyTorch自动求导、分布式数据并行原理
• 准备1-2个详细的分布式训练/推理项目，包括架构设计、遇到的挑战和解决过程