AI Infra优化工程师

优缺点分析

角色解读

• 技术专家路线：在AI Infra领域深耕，成为算子优化或编译器方向的权威
• 架构师路线：转向系统架构设计，负责大规模AI基础设施的规划与建设
• 管理路线：带领团队负责AI基础设施的研发，向技术管理方向发展
• 开发GPU与国产NPU上的大模型核心算子，解决训练与推理的性能瓶颈
• 优化AI编译器（如TVM/MLIR）的中间表示，制定算子融合与调度策略
• 实现低比特量化（如W4A8）等前沿技术，提升推理效率并降低延迟
• 分析系统性能数据，识别底层架构缺陷，提出系统性优化方案
• 精通C/C++和CUDA编程，熟悉GPU架构，有算子开发经验
• 熟悉AI编译器原理，有TVM或MLIR的实际优化经验
• 了解大模型训练与推理框架（如PyTorch、TensorFlow），能进行性能分析
• 掌握低比特量化、分布式计算等前沿技术，具备系统级优化思维

申请策略

• 关注京东云AI Infra团队的技术博客或开源项目，了解其技术方向
• 在面试中展示对AI Infra领域的热情和长期投入的决心
• 突出GPU算子开发项目经验，如实现过高性能算子或优化过模型性能
• 强调AI编译器优化经历，如对TVM或MLIR的深入使用或二次开发
• 展示大模型训练或推理的性能优化案例，量化提升效果
• 提及对低比特量化、分布式训练等前沿技术的理解和实践
• 深入学习CUDA编程和GPU架构，掌握算子优化技巧
• 熟悉TVM或MLIR的源码，理解其优化流程

面试指南

• 使用STAR法则：情境-任务-行动-结果，突出个人贡献和量化成果
• 展示系统性思维：从问题分析到方案设计，再到落地验证
• 强调技术深度：结合具体技术细节，体现专业能力
• 请描述一个你优化GPU算子的案例，如何提升性能？
• TVM和MLIR的优缺点？你如何选择？
• 如何实现低比特量化而不损失精度？
• 大模型训练中遇到性能瓶颈，你会如何分析？
• 如何设计一个算子融合策略？