阿里妈妈-AI Inference 研发工程师-AI Infra

优缺点分析

角色解读

• 从AI推理优化工程师成长为AI Infra专家，深入系统与算法协同优化
• 可向技术管理方向发展，带领团队负责核心AI基础设施
• 有机会参与业界前沿技术研究，成为AI系统架构师
• 负责AI推理和服务框架的研发与优化，解决电商搜索、推荐、广告等场景的实际业务问题
• 进行算法-软件-硬件协同优化，包括异构并行计算、AI编译、稀疏量化、混部与弹性等，提升计算资源利用率
• 研究业界前沿的AI算法、系统和硬件，探索面向推荐系统或大模型AI在线服务的理想软件和硬件系统
• 熟练掌握C/C++或Python，熟悉Linux开发环境
• 熟悉CUDA，有GPU开发及优化经验，熟悉PyTorch/TensorFlow等深度学习框架
• 熟悉TensorRT/XLA/TVM/MLIR等编译优化技术，了解推荐系统、LLM、Diffusion等算法原理

申请策略

• 关注阿里妈妈的技术博客和开源项目，了解团队技术栈
• 在简历中突出与AI Infra相关的项目成果，用数据量化性能提升
• 突出GPU优化、AI编译相关项目经验，如使用CUDA、TensorRT等优化推理性能
• 展示对推荐系统或大模型推理的实践经验，包括模型部署、性能调优
• 强调系统级优化能力，如并行计算、内存优化、分布式训练等
• 深入学习CUDA编程和GPU架构，掌握性能分析工具
• 了解MLIR、TVM等编译框架，尝试实现简单的算子优化
• 熟悉主流推理引擎（TensorRT、ONNX Runtime）的优化技巧

面试指南

• 对于性能优化问题，采用'分析-定位-优化-验证'的框架，结合具体案例说明
• 对于系统设计问题，从需求分析、架构设计、关键技术选型、性能评估等方面回答
• 对于算法原理问题，先解释基本概念，再联系实际应用场景
• 如何优化一个PyTorch模型的推理性能？
• 解释CUDA编程模型中的线程层次和内存层次
• 如何设计一个支持高并发、低延迟的推理服务？
• 你如何理解AI编译优化？请举例说明
• 在推荐系统场景中，如何平衡推理速度和精度？