【2027】研发工程师（AI方向）-郑州(J14223)

优缺点分析

角色解读

• 技术专家路线：可以从性能优化工程师成长为AI系统架构师或高性能计算专家，负责更复杂的底层系统设计
• 技术管理路线：在积累足够项目经验和技术深度后，可转向技术团队负责人或项目经理，带领团队攻克技术难题
• 跨领域发展：对推理框架和硬件有深刻理解后，也可向AI编译器、芯片架构设计或AI平台研发等方向拓展
• 负责AI大模型推理框架（如vLLM）的工程化适配与部署，确保模型能在实际环境中高效、稳定运行
• 深入分析模型推理过程中的性能瓶颈（如延迟、吞吐、显存），并进行针对性优化，提升整体推理效率
• 在更底层的算子或分布式通信层面（如Attention、AllReduce）进行性能剖析与优化，挑战计算性能极限
• 必须具备扎实的编程功底，至少熟练掌握C/C++或Python中的一种，并对PyTorch等主流AI框架有实践经验
• 需要理解大模型（如Transformer）的核心计算模式（如Attention, MoE）和显存占用机制，这是进行优化的理论基础
• 要求掌握GPU编程（CUDA）和并行计算知识，能够使用性能分析工具（profiler）定位和解决系统级性能问题
• 熟悉Linux操作系统和容器化技术（Docker, K8s）是进行大规模模型部署和运维的必备工程能力

申请策略

• 仔细阅读并理解两个不同方向的工作职责，明确自己更感兴趣和擅长的方向，在简历和面试中有所侧重
• 提前了解中科曙光在服务器、AI计算平台等方面的产品和技术定位，思考该岗位如何与公司战略结合
• 重点突出与CUDA编程、并行计算、性能优化相关的课程设计、科研项目或实习经历，即使规模小也要讲清楚优化思路和量化结果
• 展示对PyTorch、Transformers等AI框架的使用经验，以及对大模型结构的理解，可体现在论文研读或项目复现中
• 在项目描述中，强调使用Linux、Docker等工具解决实际问题的经历，体现工程实践能力
• 系统性地学习GPU编程（CUDA）和并行计算原理，可通过NVIDIA官方教程或经典教材入门
• 动手实践，尝试在开源项目（如vLLM）上进行简单的性能剖析和优化，或复现一篇关于大模型推理优化的论文，积累实战经验

面试指南

• 对于性能优化问题，使用STAR法则：先说场景和任务，再详细描述你采取的行动（如用什么工具分析，发现了什么问题，尝试了哪些优化方案），最后用具体数据量化你带来的性能提升
• 对于技术原理问题，采用“定义-作用-挑战-优化”的结构：先清晰解释概念，再说明它在AI推理系统中的作用，然后指出它可能带来的性能挑战，最后阐述业界或你所知的优化思路
• 对于框架与机制问题，结合对大模型计算流程的理解来回答：说明该机制针对的是计算流程中的哪个环节，解决了什么资源管理或效率问题
• 请描述一个你做过的最复杂的性能优化项目，遇到了什么瓶颈，你是如何分析并解决的？
• 大模型推理过程中，影响首Token延迟（TTFT）和生成吞吐的主要因素有哪些？可以从哪些层面进行优化？
• 解释一下CUDA中的内存层次（Global Memory, Shared Memory, Registers），以及在编写GPU Kernel时应如何利用它们来提升性能？
• 你对vLLM或SGLang中的PagedAttention机制有什么理解？它解决了什么问题？
• 在多卡分布式推理场景下，通信开销是一个关键问题，你知道哪些优化集合通信的方法？