阿里妈妈-AI Inference 研发工程师-AI Infra

优缺点分析

角色解读

• 可以向AI系统架构师或技术专家方向发展，深入推理引擎优化领域
• 有机会成长为团队技术负责人，负责AI Infra相关业务模块
• 可横向拓展到大模型训练或部署等更广泛的AI系统方向
• 开发和优化AI推理服务框架，解决电商营销业务中的实际问题
• 进行算法-软件-硬件协同优化，提升大规模计算集群的性能
• 研究前沿AI技术，探索适合推荐系统或大模型在线服务的软硬件架构
• 熟练掌握C/C++或Python编程，具备Linux开发经验
• 精通CUDA和GPU开发优化，熟悉PyTorch/TensorFlow等深度学习框架
• 了解AI编译技术如TRT/XLA/TVM/MLIR，有推荐系统或大模型算法经验优先

申请策略

• 了解阿里妈妈和淘天电商业务，思考AI推理如何赋能营销场景
• 准备具体项目案例，展示解决实际业务问题的能力和技术深度
• 突出C/C++/Python项目经验，尤其是系统级或性能优化相关工作
• 重点展示GPU开发或CUDA优化经验，如模型推理加速、并行计算等
• 列举使用深度学习框架（如PyTorch/TensorFlow）的实际应用案例
• 强调推荐系统或大模型相关算法知识及实践成果
• 深入学习CUDA编程和GPU优化技术，提升系统级性能调优能力
• 研究AI编译器如TVM/MLIR，了解异构计算优化技术

面试指南

• 使用STAR法则（情境-任务-行动-结果）结构化回答项目经验
• 结合具体技术细节，说明优化思路和遇到的挑战及解决方案
• 展示对业务需求的理解，将技术工作与业务目标关联起来
• 请描述一个你参与过的AI模型推理性能优化项目，你采用了哪些方法？
• 如何设计一个支持异构硬件的AI推理服务框架？
• 你对AI编译技术如TVM或XLA有什么理解？
• 在推荐系统在线服务中，如何平衡模型效果和推理延迟？
• 复习CUDA编程、GPU架构和深度学习框架的底层原理