【2027】大模型推理引擎研发工程师-郑州(J14455)

优缺点分析

角色解读

• 技术专家路径：持续深耕AI芯片推理优化领域，成为芯片-软件协同设计的资深架构师
• 技术管理路径：积累项目经验后，可带领小团队负责特定推理引擎模块或芯片适配方向的研发
• 前沿探索路径：跟踪最新AI模型与芯片技术，参与下一代推理系统的预研与定义，成为技术领航者
• 负责大模型（语言及多模态）推理引擎核心算法与系统的研发和优化
• 参与PD分离推理调度系统的设计与实现，提升资源利用率与任务调度效率
• 针对新一代自研AI芯片进行推理引擎的深度适配与性能调优，挖掘硬件潜力
• 进行系统级性能分析，定位瓶颈，通过软硬件协同设计打造极致推理性能
• 扎实的C/C++和Python编程能力，能够进行高性能系统开发和调试
• 深入的GPU/AI芯片编程知识（如CUDA），熟悉并行计算模型与底层通信机制
• 对主流大模型推理框架（如vLLM, TensorRT-LLM）的原理和实现有深刻理解
• 熟悉深度学习算子实现与优化，具备系统性能分析与调优的实战经验

申请策略

• 深入研究中科曙光在AI计算和芯片领域的公开资料，了解其技术路线和产品，面试时展现诚意
• 准备一个体现你系统优化思维或解决复杂技术问题能力的详细案例
• 重点突出与CUDA编程、GPU性能优化相关的项目或课程设计经验
• 展示对vLLM、TensorRT-LLM等至少一个主流推理框架的源码阅读或贡献
• 列举任何涉及底层系统性能分析、调优或并行计算的实践经历
• 如有参与开源项目（特别是AI框架/编译器相关），详细描述贡献
• 系统学习GPU体系结构与CUDA编程进阶内容，如SM架构、Warp调度、共享内存优化等
• 深入研读一两个大模型推理框架的核心代码，理解其调度、内存管理和算子融合策略

面试指南

• 对于优化案例：采用STAR原则（情境、任务、行动、结果），清晰描述问题、分析过程、采用的技术手段（如使用Nsight分析、优化内存访问模式、调整内核配置等）以及最终的性能提升数据
• 对于框架问题：从计算、内存、通信三个维度分析
• 例如，长序列可能带来KV-Cache内存爆炸、注意力计算二次复杂度增长等问题，并提及可能的解决方案如量化、分块计算等
• 对于芯片设计问题：结合岗位描述，强调“芯片特性”和“极致性能”，从软硬件协同角度出发，考虑该芯片的内存带宽、计算单元架构、片上互联等特性，提出针对性的优化方向
• 请介绍一个你使用CUDA进行性能优化的具体案例，遇到了什么瓶颈，如何解决的？
• 你对vLLM或TensorRT-LLM框架有了解吗？它在处理长序列推理时可能会面临哪些内存或计算挑战？
• 如果让你为一款新的AI芯片设计推理引擎，你会优先考虑哪几个方面的优化？为什么？
• 在并行计算中，模型并行和流水线并行分别适用于什么场景？它们可能引入什么额外的通信开销？