AI推理平台-AI 性能研发工程师-杭州/北京

优缺点分析

角色解读

• 深耕AI基础设施领域，成为推理系统性能优化专家
• 扩展至大规模分布式AI系统架构设计，引领技术方向
• 具备项目管理能力后，可向技术管理岗位（如团队负责人）发展
• 负责大模型推理系统的研发与性能优化，适配多种异构硬件提升效率
• 监控线上服务，快速定位问题，确保AI能力稳定落地到业务部门
• 通过自动化观测指导资源调度，评估新硬件对推理性能的价值
• 精通Python或Java编程，具备扎实的计算机基础
• 熟悉分布式系统或后端服务开发，有复杂系统调试经验
• 掌握PyTorch/TensorFlow等深度学习框架，了解vLLM、TensorRT-LLM等大模型推理技术栈

申请策略

• 研究阿里巴巴AI Infra方向的技术博客或开源项目，了解团队工作重点
• 在面试中准备具体案例，展示解决复杂性能问题的思路与成果
• 突出分布式系统或后端服务的项目经验，强调性能优化成果
• 列举对深度学习框架（如PyTorch）和推理技术栈的实践经历
• 如有开源贡献或大规模系统落地案例，需重点展示
• 深入学习大模型推理引擎（如vLLM、TensorRT-LLM）的原理与使用
• 补充高性能计算（HPC）和异构硬件适配相关知识
• 练习系统性能分析与优化工具，提升问题定位效率

面试指南

• 使用STAR法则（情境、任务、行动、结果）组织回答，突出技术深度和解决问题能力
• 结合具体技术细节，如框架选择、优化指标、系统设计等，体现专业性
• 强调学习能力和对AI Infra的热情，展示与岗位的匹配度
• 请描述一个你优化过分布式系统性能的案例，遇到了哪些挑战？
• 如何评估和适配不同硬件（如GPU、NPU）对大模型推理性能的影响？
• 如果线上推理服务出现延迟突增，你会如何定位和解决？
• 你熟悉哪些大模型推理引擎？它们各自有什么优缺点？
• 为什么选择从事AI Infra领域？你对未来的技术发展有什么看法？