AI Frameworks Engineer - Model and Kernel Optimization

优缺点分析

角色解读

• 从AI框架优化工程师起步，向高级AI系统架构师或技术专家发展
• 可深入大模型推理优化领域，成为LLM部署和加速的专家
• 有机会在英特尔内部跨团队合作，转向AI产品研发或架构设计
• 优化深度学习模型在英特尔硬件上的性能，解决精度和内存管理问题
• 设计和实现模型部署架构，包括在vLLM/SGLang上开发新特性以加速大模型推理
• 为英特尔加速器编写和调试高性能内核
• 与团队协作，沟通技术方案和进展
• 扎实的C++和Python编程能力
• 深度学习基础扎实，熟悉模型架构
• 熟悉PyTorch、vLLM、SGLang等推理框架者优先
• 具备GPU或加速器内核开发经验更佳

申请策略

• 关注英特尔上海AI团队的研究方向，在面试中展示对英特尔硬件架构的了解
• 准备英文自我介绍和技术问答，因为要求英语熟练
• 突出C++/Python编程经验和相关项目（如LLM推理、框架开发）
• 强调深度学习模型优化的实际案例，如使用vLLM、PyTorch等
• 如有内核开发经验（CUDA/OpenCL）务必展示
• 展示解决问题的能力和创新思维
• 深入学习vLLM/SGLang源码，了解P/D分离等推理优化技术
• 练习GPU内核编程（CUDA或SYCL），熟悉内存优化和并行计算

面试指南

• 使用STAR法则描述项目经历，突出问题和解决过程
• 对于技术概念，先给出定义，再解释原理和优缺点，最后联系实际应用
• 对于优化问题，从算法、内存、并行等角度分析，给出针对性措施
• 请描述一次你优化深度学习模型性能的经历
• 你如何理解P/D分离（prefill/decode disaggregation）？请解释其原理
• 在C++中，如何优化一段内存访问密集的代码？
• 介绍一下你在vLLM或SGLang上的开发经验
• 如何处理模型推理中的精度损失问题？