2027AIDU-大模型Infra工程师(J99967)

优缺点分析

角色解读

• 技术深耕：成为异构计算或大模型Infra领域的专家，主导核心组件研发
• 架构转型：向系统架构师方向发展，负责大规模AI集群的设计与优化
• 技术管理：随团队扩展，可晋升为技术Leader，带领团队攻克技术难题
• 构建AI异构计算加速引擎，开发底层算子、通信库和编译系统
• 面向CPU/GPU/FPGA/ASIC等不同架构进行深度性能调优
• 设计自适应分布式系统，优化大规模模型的训练和推理效率
• 探索算法与算力协同优化，降低大模型部署成本
• 精通C++和Python，深入理解计算机体系结构
• 有GPU/ARM等异构计算平台开发经验，熟悉CUDA或OpenCL
• 掌握MPI、NCCL、RDMA等高性能通信技术
• 了解LLVM编译器框架者优先

申请策略

• 提前了解百度AI计算部的技术方向，如飞桨框架、昆仑芯片等
• 准备1-2个深度技术项目案例，能清晰讲解设计思路与优化效果
• 突出异构计算项目经验，如GPU算子优化、分布式训练框架等
• 强调C++/Python编程能力，并附上高性能代码示例或开源贡献
• 展示通信库（NCCL/RDMA）或编译器（LLVM）相关的实践经验
• 如有大规模集群调优经历，详细描述规模、难点和成果
• 系统学习CUDA编程和GPU架构，最好有实际优化项目
• 了解大模型分布式训练框架（如PyTorch DDP、Megatron-LM）

面试指南

• 从问题拆解、现有方案分析、优化思路、实验验证四步回答
• 结合具体项目经验，量化优化效果（如吞吐提升、延迟降低）
• 展示对体系结构、并行计算和系统设计的综合理解
• 如何优化一个GPU kernel以达到最高性能？
• 请解释NCCL中AllReduce的原理，如何实现带宽最优？
• 在大模型训练中，如何解决通信瓶颈？
• 请介绍你使用LLVM进行编译优化的经历
• 如何设计一个分布式系统来支持千卡规模的模型训练？