企业微信-高级研发工程师-大模型推理框架（成都/北京）

优缺点分析

角色解读

• 技术专家路线：成为大模型推理框架的资深架构师，主导下一代推理系统设计
• 横向拓展：可转向AI基础设施、云原生计算等相邻领域，或晋升为技术管理人员
• 行业机遇：大模型推理是AI落地关键环节，经验稀缺，职业发展空间广阔
• 研发并优化大模型推理引擎，设计PD分离推理调度系统，提升大规模分布式推理效率
• 支持主流GPU及异构AI芯片，针对不同硬件特性进行推理性能调优，降低成本
• 与算法、系统团队协作，解决大模型部署中的性能瓶颈，推动模型在业务场景落地
• 精通C++/Python，具备扎实的coding和调试能力，能处理复杂系统问题
• 熟悉vLLM、SGLang、TensorRT-LLM等推理框架，有大规模部署和优化经验
• 深入理解并行策略（数据并行、流水线并行）及GPU通信技术（NVLink、RDMA）
• 了解AI芯片架构，具备系统性能分析和调优能力

申请策略

• 关注腾讯企业微信的技术博客和开源项目，了解团队技术方向
• 在简历中明确说明自己熟悉的城市意向（成都或北京）
• 突出大模型推理引擎的实战项目经验，包括框架使用、性能优化、分布式部署
• 强调C++/Python编程能力，展示代码质量、系统设计或开源贡献
• 如有GPU编程（CUDA）或AI芯片调优经历，务必详细描述
• 量化性能提升成果，例如推理延迟降低XX%、吞吐提升XX%等
• 深入学习vLLM或SGLang源码，理解其调度和内存管理机制
• 熟悉TensorRT-LLM的优化原理，动手尝试模型量化或算子融合

面试指南

• 从问题本质出发，先阐述核心原理，再结合项目经验说明方案和效果
• 回答优化类问题时，遵循“分析瓶颈→设计对策→实验验证→迭代”的框架
• 对开放性问题，可先给出思路框架，再补充细节，展示逻辑性和系统性
• 请解释vLLM中PagedAttention的原理，以及它如何提升推理性能
• 你如何在大规模分布式推理中设计PD分离调度？遇到过哪些挑战？
• 如何优化一个基于GPU的Transformer模型推理时延？给出具体方案
• 谈谈你对AI芯片（如NPU）和GPU在推理场景差异的理解
• 复习大模型推理的核心技术，包括KV Cache、连续批处理、并行策略等