AI Software Engineer — High-Performance

优缺点分析

角色解读

• 从IC向技术专家或团队负责人发展，主导GPU通信和AI推理基础设施的关键项目
• 成为开源社区核心贡献者，在SGLang/vLLM等项目中建立个人技术影响力
• 在AMD内部可转向系统架构师或技术管理方向，深入半导体行业的软硬件协同发展
• 负责MORI框架在SGLang和vLLM中的端到端集成，优化MoE专家并行和PD分离场景下的GPU通信效率
• 深入理解KVCache管理和分布式执行引擎，设计并实现高效的MORI-IO和MORI-SHMEM运行时
• 参与性能基准测试和分析，基于profiling数据推动推理性能的持续优化
• 通过开源PR贡献代码，与全球开发者协作，保持MORI在AI推理基础设施的领先性
• 精通C++和Python，并能编写高性能的GPU算子（如PyTorch自定义扩展）
• 熟悉至少一个主流LLM推理框架（SGLang、vLLM等）的内部机制，包括调度、内存管理和分布式执行
• 了解分布式系统、RDMA通信和GPU架构（尤其是AMD ROCm/HIP）
• 具备开源协作经验，能进行代码审查和跨团队沟通

申请策略

• 在求职信中说明你对AI推理基础设施的热情，并提及你在相关开源项目的参与经历
• 关注AMD在AI领域的战略动向，在面试中表现出对业务的深入理解
• 突出你在LLM推理框架（如vLLM、SGLang）中的实际工作和贡献，包括PR、性能优化案例
• 强调C++/Python编程能力，特别是涉及GPU编程（CUDA/HIP/Rocm）或高性能计算的项目
• 展示你对分布式系统、网络通信（RDMA、NCCL）的理解和实践经验
• 如有开源项目维护经验，请附上相关链接和具体贡献
• 熟悉SGLang和vLLM的源码，尝试为它们贡献代码或修改
• 学习RDMA编程基础（如InfiniBand verbs），了解GPUDirect等技术

面试指南

• 用STAR法则描述项目经历，突出你的技术决策和带来的成果
• 对于系统设计问题，先阐述整体架构，再深入具体细节，同时考虑权衡取舍
• 展示你对开源社区的贡献，强调协作和代码质量
• 请详细解释你在SGLang或vLLM中做过的工作，特别是性能优化方面的案例
• 什么是MoE专家并行？你如何设计它的all-to-all通信？
• 描述一次你调试分布式系统性能问题的经历
• RDMA有哪些关键概念？如何实现GPU间的直接通信？
• 你如何看待AMD ROCm与NVIDIA CUDA的竞争？