AI Infra研发工程师（J99641）

优缺点分析

角色解读

• 从实习生转正为正式员工，深入AI Infra领域，成为大模型系统优化专家
• 积累大规模分布式系统和底层硬件优化经验，可向架构师或技术专家方向发展
• 接触国产芯片生态，成为稀缺的跨芯片平台优化人才，职业前景广阔
• 参与大模型在国产GPU上的训练和推理性能优化，包括算子加速和软硬件协同调优
• 研究并落地前沿的AI加速技术，如模型压缩、混合精度、分布式训练等
• 搭建和维护评估基础设施，为模型推训提供快速准确的性能反馈
• 扎实的编程能力，精通Python/C/C++，熟悉数据结构和算法
• 熟悉容器技术（Docker/K8s）和PyTorch框架，了解大模型训推框架如Megatron、vLLM
• 对GPU架构和并行计算有基本理解，有分布式训练或推理优化经验更佳

申请策略

• 在简历中突出独立解决问题的能力，可附上技术分享或解决bug的案例
• 面试前后多了解百度昆仑芯等国产芯片的进展，展现对国产化的热情
• 突出GPU编程（CUDA）或分布式训练项目经验，如用PyTorch跑过大规模模型
• 强调容器化部署、模型推理优化（如TensorRT、ONNX）相关经历
• 如有开源贡献或技术博客，展示对AI Infra的关注和深入理解
• 系统学习PyTorch源码和分布式训练原理（如DDP、FSDP）
• 动手实践模型压缩（量化、剪枝）工具，理解vLLM等推理框架
• 熟悉Linux内核和网络方面的系统知识

面试指南

• 对于优化类问题，先分析瓶颈（计算/访存/通信），再针对性提出方案（如算子融合、量化、流水线并行等）
• 对于系统知识问题，先给出基本原理，再结合实际项目经验说明如何应用
• 对于开放性问题，展示逻辑思维和深度思考能力，可适当承认不了解但会快速学习
• 请解释PyTorch中DDP的原理及其与FSDP的区别
• 如何优化一个Transformer模型在GPU上的推理速度？请列举具体方法
• 容器网络的工作原理是什么？如何调试容器内网络问题？
• 请描述你之前项目中遇到的一个性能瓶颈，以及如何分析和解决的
• 对国产GPU芯片架构的了解有多少？你觉得它们的优势和挑战是什么？