AI Infra研发工程师-广告引擎

优缺点分析

角色解读

• 从AI Infra工程师向技术专家或架构师方向发展，深入底层技术研究
• 有机会转向AI平台或云原生架构方向，拓展技术广度
• 在阿里巴巴这样的大平台，可参与核心项目，快速积累经验，晋升管理岗位
• 负责AI训练和推理基础设施的优化，包括模型训练框架的改进和推理引擎的构建
• 参与云原生架构的落地，运用容器化、微服务等技术提升广告系统的弹性和高可用性
• 利用LLM和Agent技术构建知识库，实现AI辅助研发，提升开发效率
• 使用C++和CUDA进行高性能计算引擎的开发，优化异构硬件资源的使用
• 扎实的C++和Python编程能力，熟悉常用数据结构和算法
• 熟悉CUDA编程和机器学习平台（如TensorFlow、PyTorch），了解机器学习编译器（如XLA、TensorRT）
• 了解DNN/LLM模型原理和硬件原理，具备模型算子改造和训推优化经验
• 具备良好的学习能力和沟通能力，能够独立思考和解决问题

申请策略

• 了解阿里巴巴广告业务和AI Infra团队的技术方向，在面试中展示对业务的思考
• 准备系统设计和技术深度的面试题，展示解决问题的能力
• 突出C++/Python编程经验和项目成果，尤其是性能优化相关
• 强调CUDA、TensorFlow/PyTorch等框架的使用经验，以及模型优化项目
• 展示大型项目开发经验或竞赛获奖经历，体现技术深度
• 如有AI Agent或异构计算优化经验，务必突出
• 深入学习CUDA和GPU架构，掌握性能分析工具
• 了解LLM原理和推理优化技术，如量化、蒸馏

面试指南

• 使用STAR法则描述项目经历，突出技术难点和解决方案
• 从系统层面分析问题，结合具体数据说明优化效果
• 展示对最新技术的了解，并联系实际应用场景
• 请介绍一个你优化过的模型训练或推理项目，具体做了什么？
• 如何优化GPU利用率？请举例说明
• 谈谈你对LLM推理优化的理解，有哪些关键技术？
• 在分布式训练中，如何处理通信瓶颈？
• 为什么选择阿里巴巴AI Infra团队？