移植优化工程师（北京）(J13676)

优缺点分析

角色解读

• 技术专家路线：在AI系统优化或高性能计算领域深耕，成为特定硬件架构或软件栈的权威专家，解决行业级性能难题
• 架构师路线：从具体模块优化拓展到整个AI计算平台（如训练/推理平台）的架构设计，负责构建下一代AI基础设施
• 技术管理路线：带领优化工程师团队，制定技术路线，并协调算法、硬件、业务等多团队协作，推动技术方案整体落地
• 负责大语言模型在线推理服务的性能压测、瓶颈分析和代码级优化，确保在高并发下保持低延迟与高稳定性
• 深入GPU硬件底层，通过CUDA编程对关键算子进行优化，或设计高效的算子融合方案，以提升模型训练与推理的计算速度
• 设计和优化分布式环境下的GPU集群通信与资源调度策略，应对千卡级别的大规模计算挑战
• 跟踪并试验如AI编译器、模型量化等前沿技术，探索将其应用于实际业务，推动模型部署的轻量化与高效化
• 精通C/C++语言，并能熟练运用Python进行脚本开发和框架交互，具备优化代码性能的实际经验
• 深入理解NVIDIA GPU硬件架构和CUDA编程模型，能够编写和优化核函数，管理显存，处理多流并发
• 熟悉主流深度学习框架（如PyTorch）及其高性能推理组件（如vLLM/SGLang），了解Megatron等分布式训练框架
• 具备分布式系统开发知识，了解MPI、NCCL等通信库原理，有解决大规模计算系统工程问题的经验

申请策略

• 在简历和面试中，多用“解决了什么问题”、“采用了什么技术手段”、“带来了什么量化收益”的逻辑来组织项目经历
• 提前了解中科曙光在AI算力基础设施领域的产品和布局，思考你的技能如何与公司的业务方向结合
• 突出使用C/C++和CUDA进行性能优化的具体项目经验，最好能量化描述优化成果（如吞吐提升百分比、延迟降低毫秒数）
• 详细描述参与过的大规模分布式训练/推理项目，以及你负责的优化模块和在其中扮演的角色
• 列出你熟悉的深度学习框架及其在实际项目中的使用深度，有vLLM/SGLang等框架的贡献或深度使用经验是很大亮点
• 系统性地复习或深入学习GPU架构和CUDA编程模型，可通过实践一些经典的性能优化案例来巩固
• 尝试搭建并研究vLLM、SGLang等高性能推理框架的源码，理解其性能优化设计思想
• 关注国内外AI系统优化领域的技术博客、论文和开源项目，积累解决实际问题的思路和方法

面试指南

• 使用STAR法则回答项目问题：清晰描述背景（Situation）、任务（Task）、你采取的行动（Action，特别是技术细节），以及最终达成的、可量化的结果（Result）
• 对于开放性技术问题，采用分层思路回答：例如从“硬件层”、“通信层”、“框架层”、“算法层”等多个维度去展开分析可能性
• 结合JD中的关键词和你过去的项目经验来回答，证明你对所需技能有实践经验，而非仅仅了解概念
• 请介绍一个你印象最深的性能优化项目，你是如何定位瓶颈并最终解决的？
• 在多卡分布式场景下，通信效率低是常见问题，你会从哪些层面进行分析和优化？
• 如何评估一个AI推理框架的性能？你会关注哪些关键指标（如延迟、吞吐、显存占用）？
• 请解释CUDA中的流（Stream）是什么，如何利用它来提升计算效率？
• 对于大语言模型推理中的显存占用问题，你了解哪些优化手段（如量化、KV-cache管理）？