大模型推理部署工程师-福州

优缺点分析

角色解读

• 从算法工程到系统架构师，深入底层硬件与软件协同优化
• 可向AI编译器、高性能计算或芯片架构方向深度发展
• 在大模型落地浪潮中积累稀缺经验，未来可转向端侧AI或云端推理平台
• 优化大模型推理的计算图和执行链路，提升推理速度和效率
• 解决动态Shape、多卡通信、内存瓶颈等实际部署难题
• 为CPU/NPU/GPU异构架构设计高性能推理方案，并参与量化、图优化全流程
• 与算法、产品团队协作，推动大模型在芯片产品中的规模化落地
• 扎实的C/C++编程和数据结构算法基础，能高效实现底层优化
• 深入理解模型部署全流程：转换、量化、图优化、运行时执行
• 对并行计算或分布式系统有系统认知，能设计整体软件架构
• 具备问题拆解和跨团队协作能力，对前沿技术保持热情

申请策略

• 在简历中量化优化成果（如推理速度提升X倍，内存降低Y%）
• 面试前研究瑞芯微的AI产品线，思考大模型在端侧的应用场景
• 重点突出大模型部署或推理优化的实际项目经验，如量化、图优化、KV Cache等
• 强调C/C++高性能编程案例，展示对底层内存、并行计算的理解
• 如有端侧或异构计算（NPU/GPU）落地案例，务必详细描述
• 预习LLM推理系统知识：Prefill/Decode、KV Cache、FlashAttention等
• 熟悉至少一种异构计算框架（如OpenCL、CUDA、Vulkan）或编译器基础（如MLIR、TVM）
• 了解瑞芯微现有芯片的NPU架构，提前思考如何适配

面试指南

• 结构化STAR法则：情境-任务-行动-结果，突出你的思考和量化成效
• 技术问题从问题本质、常见方案、权衡取舍三个层次回答
• 遇到不确定的地方，坦诚承认并展示你的分析思路和学习能力
• 请简述LLM推理中Prefill和Decode阶段的区别及优化方法
• 如何解决动态Shape带来的性能问题？请列举至少两种方案
• 你在模型量化中遇到过哪些挑战？如何处理精度和速度的平衡？
• 对于多卡通信（如AllReduce），你如何优化通信瓶颈？
• 请描述一个你主导的性能优化项目，从问题分析到最终成果的完整过程