训推平台及引擎研发工程师

优缺点分析

角色解读

• 技术专家路线：从推理引擎研发工程师成长为系统架构师或技术专家，主导公司级AI基础设施
• 管理路线：可向技术团队负责人或研发经理方向发展，带领团队负责AI平台建设
• 行业跨界：积累的LLM推理优化经验可应用于AI芯片、云计算、自动驾驶等前沿领域
• 主导推理引擎的技术选型与架构设计，包括vLLM、SGLang、TensorRT-LLM等主流框架的深度定制与优化
• 设计并实现PD分离、KV Cache传输、三级缓存等高级推理架构，提升大规模模型推理效率
• 制定并行策略（TP/PP/EP）和MoE模型部署方案，优化千卡级集群的推理性能
• 与GPU厂商（NVIDIA、Moore Threads、华为）对接，验证和适配最新硬件特性
• 精通vLLM、SGLang或TensorRT-LLM内核，有5年以上大规模LLM推理系统经验
• 深入理解Transformer/MoE架构、KV Cache机制，具备CUDA编程能力
• 有千卡以上集群推理部署实战经验，熟悉英伟达GPU架构及HBM内存管理
• 具备PD分离架构或分布式KV Cache系统设计经验者优先

申请策略

• 提前了解宁德时代在AI领域的布局和业务方向，在面试中展现对新能源+AI结合的理解
• 准备一个完整的推理优化项目案例，展示从问题分析到方案落地的全过程
• 突出大规模LLM推理系统经验，特别是vLLM、SGLang等框架的深度优化案例
• 强调千卡级集群部署和分布式KV Cache设计经验，量化性能提升效果
• 展示CUDA编程和GPU架构理解，附上相关项目或开源贡献
• 提及与GPU厂商合作经验，体现硬件适配能力
• 深入学习PD分离架构和Mooncake KV Transfer等最新推理优化技术
• 了解国产GPU（如Moore Threads、华为昇腾）的适配和优化方法

面试指南

• 采用STAR法则（情境-任务-行动-结果）回答项目经验问题，突出技术难点和量化成果
• 对于架构设计问题，先阐述核心原理，再结合具体场景分析权衡，最后给出方案
• 对于优化问题，从性能瓶颈分析入手，提出针对性优化策略，并说明预期效果
• 请详细描述一个你主导的LLM推理优化项目，包括技术选型、架构设计和性能提升效果
• 如何设计一个千卡级集群的推理系统？请谈谈并行策略（TP/PP/EP）的选择和权衡
• 谈谈你对PD分离架构的理解，以及在实际部署中可能遇到的挑战和解决方案
• 如何优化KV Cache的内存管理？请介绍你熟悉的缓存机制和优化技巧
• 在GPU适配方面，你如何与NVIDIA、华为等厂商合作，确保推理性能最大化？