训推平台及引擎研发主任工程师

优缺点分析

角色解读

• 技术专家路线：成为推理系统领域的权威，主导公司级技术架构
• 管理路线：晋升为技术团队负责人，带领团队攻克技术难题
• 行业影响力：通过技术分享和开源贡献，提升个人在AI领域的知名度
• 主导大模型推理引擎的架构设计和技术选型，确保系统高性能和可扩展性
• 设计并实现高级推理架构，如PD分离、KV缓存优化，提升推理效率
• 制定并行策略和模型部署方案，优化MoE模型在千卡集群上的运行
• 与GPU厂商合作，验证和落地最新硬件加速技术
• 精通vLLM、SGLang、TensorRT-LLM等推理引擎的内核原理和优化
• 深入理解Transformer和MoE架构，熟悉KV Cache机制和CUDA编程
• 具备大规模集群（千卡以上）推理部署的实战经验
• 熟悉NVIDIA GPU架构和HBM内存管理，了解量化、投机解码等技术

申请策略

• 了解宁德时代在AI领域的布局和业务方向，展示对新能源+AI结合的兴趣
• 准备技术分享或开源项目，展示技术深度和影响力
• 突出大规模LLM推理系统的项目经验，量化成果（如吞吐量提升、延迟降低）
• 强调对vLLM、SGLang等引擎的深入理解和优化实践
• 展示并行策略、量化、投机解码等技术的实际应用案例
• 提及与GPU厂商合作的经验或对GPU架构的深刻理解
• 深入学习PD分离架构和分布式KV Cache系统设计
• 熟悉最新的推理加速技术，如MTP、投机解码

面试指南

• STAR法则：描述情境、任务、行动和结果，突出个人贡献和量化成果
• 对比分析：比较不同方案的优劣，展示决策逻辑和权衡能力
• 问题解决：强调遇到的技术挑战和解决过程，体现深度思考
• 请详细描述你设计过的最复杂的推理系统架构，以及优化效果
• 如何选择TP/PP/EP并行策略？请结合具体模型和硬件环境说明
• 谈谈你对PD分离架构的理解，以及在实际项目中如何实现
• 如何优化KV Cache以降低显存占用？请举例说明
• 面对新GPU硬件，你如何快速评估其推理性能并适配？