AI Framework Eng.(VLLM CI)

优缺点分析

角色解读

• 成为LLM推理基础设施领域的权威专家，主导制定AMD在AI推理领域的技术路线
• 向首席科学家或技术总监方向发展，带领团队攻克下一代AI芯片的软件生态难题
• 在开源社区获得极高影响力，成为vLLM等项目的核心Maintainer
• 负责大语言模型(LLM)在AMD GPU上的推理引擎开发与性能优化，涉及分布式训练/推理的核心运行时
• 深入底层，通过优化KV-cache、连续批处理、MoE路由等机制，提升推理吞吐量和降低延迟
• 将自研优化成果反向贡献给vLLM、SGLang等主流开源项目，建立行业标准
• 与编译器、内核团队合作，打通从软件框架到硬件底层的性能瓶颈
• 精通Python和C/C++，具备大规模系统调试和性能调优能力
• 深刻理解LLM推理原理，熟练掌握vLLM、SGLang等框架源码
• 熟悉GPU架构(AMD ROCm/NVIDIA CUDA)，了解HIP/AIET等底层库
• 具备分布式系统开发经验，熟悉RCCL/RDMA等通信协议
• 拥有计算机科学/工程硕士或博士学位，有顶级会议论文或开源核心贡献者优先

申请策略

• 准备一份详细的技术博客或GitHub仓库，展示你对推理框架源码的理解
• 面试中要展现出对“为什么这样做”的深层思考，而不仅仅是“怎么做”
• 关注AMD最新的AI战略和产品路线图，在面试中体现对公司业务的认同
• 突出LLM推理相关的实战项目，特别是针对vLLM/SGLang的优化案例或贡献PR
• 量化性能提升成果，如“将吞吐量提升X%”、“延迟降低Y ms”，体现数据驱动思维
• 强调C++/Python混合编程能力及Linux环境下的高性能计算经验
• 列出相关的学术论文、专利或GitHub高星项目链接
• 深入研究Transformer架构细节，特别是Attention机制和MoE路由算法

面试指南

• 采用STAR法则（情境、任务、行动、结果）描述项目经历，重点突出技术决策的依据
• 对于原理性问题，从数学公式推导到代码实现层层递进，展示理论深度
• 对于系统设计题，先界定边界条件，再提出核心架构，最后讨论权衡取舍(Trade-off)
• 展现对开源社区的尊重和理解，说明如何通过协作推动项目进展
• 请详细描述你优化过的一个LLM推理场景，遇到了什么性能瓶颈？你是如何定位和解决的？
• 解释一下Continuous Batching的工作原理，以及它在vLLM中是如何实现的？
• 在分布式推理中，如何处理GPU间的数据同步和通信开销？RCCL相比NCCL有哪些异同？
• 如果让你设计一个支持MoE模型的推理引擎，你会考虑哪些关键模块？