AI Infra研发工程师-AI Agent

优缺点分析

角色解读

• 技术专家路线：在AI Infra领域深耕，成为模型推理、性能优化等方向的专家
• 架构师路线：积累系统设计经验，成长为AI基础设施架构师，负责大规模分布式系统设计
• 管理路线：随着经验积累，可带领团队负责AI Infra项目，向技术管理方向发展
• 负责AI基础设施的研发，包括模型推理引擎、模型后训练、模型压缩和部署，提升大模型的训练和推理效率
• 支持LLM和多模态模型的业务落地，为Agentic AI等新型AI产品提供底层技术支持，优化计算资源，降低成本
• 与算法、工程、产品等团队协作，推动AI应用产品的研发和上线，确保技术方案与业务需求对齐
• 精通至少一种编程语言（C++/Python/Rust等），熟悉Linux环境，具备扎实的计算机系统知识
• 熟悉主流AI模型（LLM、多模态等），了解模型压缩、推理优化等技术
• 掌握推理框架（如vLLM、SGLang）和后训练框架（如Megatron、verl），熟悉K8s、Docker等部署工具
• 具备高性能计算经验，熟悉GPU（如Nvidia）和AI芯片，有相关优化经验者优先

申请策略

• 了解阿里巴巴AI基础设施团队的业务方向，如通义千问、AI Agent等，在面试中展示对业务的理解
• 准备一个完整的项目案例，展示从模型训练到部署的优化过程，突出量化成果
• 突出AI基础设施相关项目经验，如模型推理优化、模型压缩、部署系统等
• 强调编程语言和系统知识，如C++/Python、Linux、分布式系统
• 展示对主流框架的熟悉程度，如vLLM、PyTorch、K8s等，并说明具体应用场景
• 如有GPU优化或AI芯片经验，务必突出，这是加分项
• 深入学习推理框架（如vLLM）的源码，理解其优化原理
• 补充Kubernetes和Docker的实战经验，了解模型部署的容器化流程

面试指南

• STAR法则：描述情境、任务、行动和结果，突出技术细节和量化成果
• 技术深度+业务视角：先展示技术方案，再说明对业务的影响（如成本降低、性能提升）
• 系统思维：从整体架构出发，考虑可扩展性、稳定性、成本等因素
• 请介绍你参与过的一个AI模型推理优化项目，具体做了哪些优化？
• 如何设计一个高并发、低延迟的模型推理服务？
• 你如何理解模型压缩？有哪些常用的压缩技术？
• 在Kubernetes上部署模型服务时，如何管理GPU资源？
• 如何与算法团队协作，确保模型高效部署？