AI推理平台-Qwen推理优化专家-上海

优缺点分析

角色解读

• 技术专家路线：在AI推理优化领域持续深耕，成为算子优化、系统性能调优的顶尖专家
• 架构师路线：主导大规模分布式推理系统的架构设计与演进，成为系统架构师
• 技术管理路线：未来可带领团队，负责核心推理引擎的研发方向和技术规划
• 负责对Qwen等大模型的核心算子进行深度性能优化，利用CUDA、Triton等工具压榨GPU硬件潜力
• 设计并实现低比特量化内核，在保证模型精度的前提下，大幅降低显存占用和计算开销
• 研发分布式推理场景下的计算与通信协同优化技术，提升多卡、多节点系统的扩展性
• 与算法团队合作，参与下一代Qwen模型结构的联合设计，从系统层面影响模型架构
• 精通C++和Python，具备扎实的工程实现能力和系统架构设计能力
• 深入掌握CUDA、Triton、ROCm等异构编程模型，并有使用CUTLASS、CUTE等框架进行算子开发的经验
• 熟悉计算机体系结构，有vLLM、SGLang等推理引擎优化经验，或模型压缩、AI调度等方向实践
• 具备出色的沟通协作能力，能与算法、框架团队紧密配合，解决底层性能瓶颈

申请策略

• 在申请时，可以主动表达对Qwen模型和阿里AI基础设施的理解，展现你的技术热情
• 准备一个关于你如何优化一个具体算子的技术分享，这会是面试中的亮点
• 重点突出在CUDA、Triton等异构编程模型上的实战经验，特别是基于CUTLASS/CUTE的算子开发项目
• 详细描述在大模型推理引擎（如vLLM、SGLang）优化或模型压缩（量化、稀疏化）方面的具体成果和性能提升数据
• 强调你的C++和Python工程能力，以及独立设计复杂系统的能力，可以附上相关系统架构图或代码链接
• 突出与算法团队协作的经验，展示你如何将性能优化与模型设计结合
• 深入学习CUTLASS、CUTE等最新算子开发框架，并尝试复现一些前沿的推理优化论文
• 熟悉NVIDIA最新GPU架构（如Hopper、Blackwell）的特性，了解Tensor Core等硬件加速单元的原理

面试指南

• STAR法则：在回答项目经验时，清晰描述情境（Situation）、任务（Task）、行动（Action）和结果（Result），突出量化数据
• 原理+实践：回答技术问题时，先阐述底层原理，再结合你的实践案例，展示你不仅知其然，还知其所以然
• 系统思维：在回答系统设计问题时，从全局出发，考虑硬件、软件、算法、成本等多方面因素，体现你的架构视野
• 请详细描述你使用CUTLASS或CUTE进行算子开发的一个项目，包括性能瓶颈分析、优化思路和最终效果
• 在vLLM或SGLang中，你如何优化Attention算子的性能？请谈谈你的思路
• 如何设计一个高精度的低比特量化方案，以在减少显存的同时保持模型精度？
• 在多卡分布式推理场景下，如何通过计算和通信重叠来提升系统吞吐量？
• 你如何看待AI推理优化领域未来的技术趋势？