企业微信-高级研发工程师-大模型推理框架（成都/北京）

优缺点分析

角色解读

• 技术专家路线：深耕推理优化领域，成为大模型基础设施的技术架构师或领域专家
• 技术管理路线：带领团队负责更大的AI基础设施模块或平台，向技术负责人发展
• 横向拓展：可向AI编译器、AI芯片设计协同、MLOps平台等更广泛的AI系统方向发展
• 设计、研发并持续优化企业微信底层的大模型推理引擎和分布式调度系统，确保AI服务的高性能与稳定性
• 针对不同的GPU和AI芯片（如NVIDIA、国产芯片）进行深度适配与性能调优，挖掘硬件算力极限
• 负责大规模语言模型、多模态模型的推理部署方案，解决实际业务场景中的性能瓶颈与成本问题
• 精通C++和Python，并具备扎实的系统级编程与调试能力，能深入底层进行优化
• 深入理解并主流的大模型推理框架（vLLM， TensorRT-LLM等）及其原理，并有大规模实战部署经验
• 熟悉分布式并行策略（数据并行、流水线并行）和高性能通信（NVLINK, RDMA），具备系统性能分析与调优能力
• 对深度学习算子实现、模型架构以及GPU/AI芯片体系结构有深刻理解

申请策略

• 仔细研究企业微信的产品形态及其可能用到的AI能力（如文档处理、图像识别、智能回复等），思考你的技术如何赋能具体业务场景
• 面试准备时，不仅要谈技术细节，也要能阐述你的优化方案如何平衡性能、成本与工程可行性
• 突出C++/Python项目经验，尤其是涉及高性能计算、分布式系统、网络通信或底层优化的项目
• 详细描述使用vLLM、TensorRT-LLM等框架进行大模型部署、优化的具体案例和量化成果（如吞吐量提升、延迟降低、成本节省）
• 展示对GPU架构、算子开发、CUDA编程或芯片体系结构的理解，有实际性能分析调优经验是极大加分项
• 系统学习并实践至少一种主流推理框架（如vLLM）的源码，理解其核心设计（如PagedAttention）
• 深入研究GPU编程模型（CUDA）和异构计算，了解NVIDIA芯片架构特性
• 回顾并加强分布式系统、高性能网络（RDMA）和并行计算的相关知识

面试指南

• 【STAR法则讲项目】使用Situation（背景）、Task（任务）、Action（行动）、Result（结果）的结构清晰地讲述你的项目经验，重点突出技术决策和量化收益
• 【系统设计讲思路】回答架构设计问题时，从需求分析入手，分模块阐述设计（如接入层、调度层、推理引擎层、监控运维），并主动讨论关键点的权衡（如性能 vs 成本、延迟 vs 吞吐）
• 【概念理解讲原理】解释技术概念时，不要停留在表面，要深入到底层原理或设计初衷，最好能结合实际应用例子
• 请介绍一个你优化大模型推理性能的项目，具体遇到了哪些瓶颈？你采取了哪些技术方案？最终指标提升了多少？
• 假设要你设计一个支持千万级用户同时请求的在线大模型推理服务，你会如何考虑架构？如何保证低延迟和高可用？
• 请解释一下数据并行和流水线并行的区别与适用场景
• 在推理场景下，如何选择和组合这些并行策略？
• vLLM中的PagedAttention机制解决了什么问题？其核心思想是什么？