Senior Deep Learning Solution Architect

优缺点分析

角色解读

• 技术专家路线：深耕高性能计算与AI系统优化，成为特定领域（如LLM推理、分布式训练）的权威专家
• 技术领导路线：凭借技术深度和项目贡献，带领小团队或成为关键技术方向的Tech Lead
• 架构师路线：从单点技术优化扩展到整体AI计算平台的架构设计，成为解决方案架构师或首席架构师
• 参与并贡献于SGLang、vLLM等主流开源大模型推理框架的核心开发与优化工作
• 研发用于大模型工作负载的先进KV缓存管理技术（如FlexKV项目），提升推理效率
• 主导分布式训练场景下的计算性能研究，探索并实施性能优化方案
• 分析机器学习系统中的共性瓶颈，并开发相应的加速库、框架或示例代码
• 扎实的编程功底（如Python/C++）和深厚的计算机系统与数据结构知识
• 对加速计算、并行计算和异构计算（如GPU编程）有深入的理解和实践兴趣
• 具备分析复杂技术问题、独立定义研究方向和解决方案的能力
• 拥有良好的学习能力和技术钻研精神，能快速掌握新兴技术

申请策略

• 在求职信或面试中，清晰表达你对英伟达在加速计算和AI基础设施方面工作的具体理解与热情
• 准备深入讨论你过去解决过的最复杂的系统性能问题，并思考其与LLM优化的关联
• 重点突出在高性能计算、分布式系统、GPU编程（CUDA）、或AI框架开发方面的项目经验与成果
• 详细描述参与或主导的优化项目，用具体数据（如性能提升百分比、吞吐量对比）量化你的贡献
• 展示对SGLang、vLLM、PyTorch/TensorFlow底层或LLM技术栈的理解深度
• 如有开源项目贡献（尤其是ML系统相关）或技术博客/论文，务必在简历中显著展示
• 深入学习并实践大语言模型推理框架（如vLLM）的源码，理解其架构与瓶颈
• 系统学习并行计算、分布式训练（如PyTorch DDP, FSDP）以及GPU性能分析工具（如Nsight）

面试指南

• 对于技术深度问题，采用“问题定义-分析-方案-结果-反思”的结构，突出你的系统性思考和解决能力
• 对于框架/技术见解类问题，先阐述你的理解，再结合JD中的方向（如FlexKV、分布式训练）提出有见地的观点或假设，并说明调研或验证思路
• 展示热情与驱动力时，将个人兴趣与英伟达的技术方向（如将新技术落地到行业）明确关联起来
• 请描述一个你参与过的、涉及性能优化的开源项目或系统开发项目，你具体负责什么？遇到了哪些挑战，如何解决的？
• 你如何看待SGLang或vLLM等开源推理框架？它们目前的主要瓶颈可能是什么？如果你来优化，会从哪些方面入手？
• 请解释KV Cache在大语言模型推理中的作用
• 你认为在跨CPU/SSD/远程存储的多级缓存架构中，最大的技术挑战是什么？
• 在分布式训练中，导致计算效率下降的常见原因有哪些？你可以举例说明一种你了解或实践过的优化技术