达摩院-AI框架开发工程师-计算技术

优缺点分析

角色解读

• 在AI系统软件领域深耕，成为框架适配、性能优化方面的技术专家
• 可向AI编译器、运行时系统、异构计算等更底层的系统架构师方向发展
• 通过开源贡献建立行业影响力，有机会成为特定技术方向的开源社区负责人或布道师
• 负责AI推理框架（如PyTorch、vLLM）的适配层设计与核心功能开发，确保框架能高效运行在自研硬件上
• 优化框架的算子调度、内存管理和分布式通信，以显著提升大语言模型的推理性能
• 深度参与开源社区，将内部开发的关键优化贡献至开源项目主线，扩大技术影响力
• 精通C++/Python编程，具备扎实的系统开发和性能调优能力
• 深入理解至少一个主流AI框架（PyTorch/TensorFlow/JAX）的内部架构和执行流程
• 了解分布式系统设计原理，有解决复杂工程问题的经验

申请策略

• 研究阿里巴巴达摩院在AI系统领域的最新技术博客、论文和开源项目，了解团队的技术方向和挑战
• 在面试中，准备一个关于你如何分析和解决某个AI框架性能问题的技术深度案例
• 详细描述你对PyTorch/TensorFlow等框架源码的理解或修改经验，例如性能优化、算子开发等具体项目
• 突出你的C++/Python项目经历，特别是涉及内存管理、多线程/分布式编程的案例
• 列出你在GitHub上对PyTorch、vLLM等知名AI开源项目的贡献（PR链接、Issue等）
• 系统学习和阅读目标框架（如vLLM、SGLang）的源码，理解其架构和性能瓶颈
• 复习操作系统、计算机体系结构和分布式系统的核心知识，以应对系统设计类问题
• 如果缺乏开源经验，可以尝试为相关项目修复一个简单的Bug或完善文档，作为切入点

面试指南

• 对于技术原理问题：采用“是什么-为什么-怎么做”的结构
• 先阐明机制的核心思想，再解释它要解决的具体问题，最后结合源码或实际场景描述实现细节
• 对于架构设计问题：从需求分析出发，定义核心抽象和接口，然后考虑扩展性、性能、兼容性等关键约束，并权衡不同设计方案的利弊
• 对于开源贡献问题：使用STAR原则（Situation, Task, Action, Result），清晰描述问题背景、你承担的角色、具体实施步骤以及最终产生的量化或质化影响
• 请描述你对PyTorch计算图执行机制的理解
• 从一个算子调用到最终执行，中间经历了哪些步骤？
• vLLM的PagedAttention机制解决了什么问题？你认为它在内存管理上还有哪些可以优化的地方？
• 假设你需要为一个新型AI加速器适配PyTorch后端，你会如何设计硬件抽象层（HAL）？需要考虑哪些关键因素？