Sr. Software Development Engineer

优缺点分析

角色解读

• 技术深耕：成为 GPU 计算和 AI 推理性能优化领域的专家，主导核心模块架构设计
• 架构演进：向系统架构师或首席工程师发展，负责全栈 AI 推理方案的规划和落地
• 团队扩展：有机会带领或指导新人，逐步转向技术管理岗位，推动团队技术方向
• 开发和优化深度学习框架（如 PyTorch、vLLM）以在 AMD GPU 上高效运行 LLM 和多模态模型
• 编写高性能、可扩展的代码，关注内存和通信优化，使用 Profiling 工具识别和解决性能瓶颈
• 与内部 GPU 库团队和开源社区协作，将优化成果向上游贡献，推动 AI 推理系统的发展
• 研究和实现前沿技术如推测解码、权重量化，并集成到生产管线中
• 扎实的 Python/C++ 编程能力，熟悉 Linux 开发环境和版本控制工具
• 深入理解 Transformer、注意力机制、KV Cache、量化（FP8/FP4）等 LLM/多模态模型概念
• 具备多 GPU/多节点环境下的性能分析和优化经验，熟悉分布式推理方案
• 接触过 GPU 编程（CUDA/HIP）或性能分析工具，了解编译器优化（LLVM/ROCm）为加分项

申请策略

• 在简历中用量化指标（如延迟降低 X%，吞吐提升 Y%）展示实际优化成果
• 关注 AMD 的 AI 生态系统战略，了解其与开源社区的互动方式，在面试中体现文化契合
• 突出 LLM/多模态模型相关的优化经验，如量化、分布式推理、性能 Profiling 案例
• 强调 Python/C++ 编程能力，特别是高性能、多线程/异步编程经验
• 列举开源贡献（如向 PyTorch、vLLM 等项目提交 PR），展示社区协作能力
• 展示 GPU 编程（CUDA/HIP）或编译器优化（LLVM/ROCm）相关项目成果
• 补充或强化 AMD ROCm 平台和 HIP 编程知识，熟悉 AMD GPU 开发工具
• 深入学习 vLLM、SGLang 等推理框架的源码，理解 PagedAttention、Continuous Batching 等机制

面试指南

• 技术深度结合实践：先阐述理论概念，再举例如何在实际项目中应用，突出优化收益
• 系统化思考：从整体架构出发，分析可能瓶颈，层层递进到具体优化手段
• 协作与开源意识：强调跨团队沟通、代码复用和开源贡献的价值
• 请描述你对 Transformer 架构中自注意力机制的理解，以及如何针对 GPU 进行优化？
• 如何在多 GPU 环境下实现模型并行？请比较 Tensor Parallel 和 Pipeline Parallel
• 你有过使用 Profiling 工具定位性能瓶颈的经历吗？具体是怎么做的？
• 谈谈你对量化（FP8/FP4）的理解，以及在 LLM 应用中如何平衡精度和性能？
• 你如何为一个新模型（如 Qwen-VL）设计高效的推理管线？