AI软件架构师

优缺点分析

角色解读

• 可向技术专家方向发展，深耕大模型优化与编译器领域
• 可晋升为技术团队负责人，带领团队进行AI系统研发
• 可转向AI产品架构师，结合业务需求设计AI解决方案
• 负责大模型的二次开发与平台适配，确保模型在不同硬件和软件环境下的高效运行
• 开发大模型一体机中的软件功能，优化应用软件性能
• 调试和优化AI算子库，分析算子效率，提升kernel性能
• 开发与优化人工智能编译器，优化异构算力协同推理引擎
• 精通Python/Java/C++等编程语言，具备优秀的编码能力
• 熟悉主流大模型架构与底层算子，能够分析性能瓶颈并进行调优
• 熟悉LangChain、Dify、Milvus等大模型应用开发框架
• 熟悉PyTorch/TensorFlow及训练推理框架（Megatron/vLLM/SGLang），具备并行优化能力

申请策略

• 关注浪潮在大模型一体机方面的产品，了解其技术方向
• 准备展示自己在性能优化方面的具体案例
• 突出大模型相关项目经验，特别是模型优化、性能调优案例
• 强调编程语言掌握程度，尤其是Python和C++
• 展示对深度学习框架和推理框架的深入理解
• 如有CUDA/Triton开发经验，务必突出
• 深入学习大模型训练推理框架的底层实现，如vLLM、SGLang
• 学习CUDA编程，提升并行计算能力

面试指南

• 结合项目经验，用STAR法则描述优化过程
• 展示对底层原理的理解，并举例说明
• 强调实际效果，如性能提升百分比
• 请描述你在模型性能优化方面的经验，具体如何分析瓶颈？
• 你如何理解大模型训练中的并行策略（TP/PP/DP）？
• 请谈谈你对AI编译器优化的理解
• 你使用过哪些大模型推理框架？如何优化推理性能？
• 复习大模型训练推理框架的架构