微信搜索-AI Infra 工程师-大模型推理方向 (深圳）（广州)

优缺点分析

角色解读

• 技术专家路线：深耕AI Infra领域，成为推理系统、编译器或高性能计算方面的顶尖架构师
• 技术管理路线：带领小团队负责某一模块或子系统的规划与建设，协调资源推动技术方案落地
• AI平台架构师：视野扩展到整个AI开发、训练、部署、监控全链路，设计企业级AI中台
• 你将负责设计和实现大模型推理引擎的核心模块，解决高并发、低延迟、高吞吐的系统级挑战
• 你需要将学术界的推理优化技术（如量化、算子融合）工程化，并落地到微信搜索等真实业务场景中
• 你将与算法团队紧密协作，根据模型特性和业务需求，定制化设计推理框架和系统架构
• 需要精通大语言模型（LLM）和视觉语言模型（VLM）的结构与原理，具备模型分析与优化能力
• 需要有深厚的系统编程功底（C++/Python），并熟练掌握至少一种主流推理框架（如vLLM, TensorRT-LLM）的底层原理
• 需要了解AI加速硬件（如GPU）的体系结构，并能针对性地进行算子级和系统级的性能优化

申请策略

• 在面试中，可以主动结合微信搜索的业务场景，讨论如何针对搜索Query的特点来优化推理链路，展现你的业务理解和技术结合能力
• 准备一个自己解决过的最棘手的性能问题案例，完整讲述从问题发现、分析、定位到最终解决的整个思考和执行过程
• 重点突出与大规模分布式系统、高性能计算或AI推理引擎相关的项目经验，用具体数据（如QPS提升、延迟降低）量化成果
• 详细描述使用vLLM、TensorRT-LLM等框架进行模型部署与优化的实践，包括遇到的具体问题和解决方案
• 展示对CUDA、算子优化、量化（INT8/INT4）等底层加速技术的深入理解和实践经验
• 如果对模型结构不熟悉，建议系统性学习Transformer架构及其变体，并通过阅读论文了解LLM/VLM的前沿发展
• 可以尝试在公开数据集上复现vLLM等框架的推理流程，并动手进行简单的性能分析与优化实验
• 补充学习GPU体系结构（如NVIDIA CUDA Core、Tensor Core）和基础的并行计算知识

面试指南

• 对于实践类问题，采用STAR法则：描述背景(Situation)、明确任务(Task)、详述你的行动(Action)，最后用数据展示结果(Result)
• 对于技术原理类问题，先定义核心概念，然后从“解决什么问题”、“工作原理”、“带来的收益和潜在代价（如精度损失、代码复杂度）”三个层次展开
• 对于设计类问题，从核心需求（延迟、吞吐、成本）出发，拆解为系统模块（如调度器、执行器、缓存管理），并阐述各模块的设计考量和权衡
• 请介绍一个你曾经参与优化的推理引擎或系统，你遇到了什么瓶颈？采取了哪些优化手段？最终效果如何？
• 解释一下算子融合（Operator Fusion）和量化（Quantization）这两种常见的LLM推理加速技术，它们各自解决什么问题，有什么 trade-off？
• 如果让你为一个全新的大模型设计推理服务架构，你会考虑哪些关键因素？（例如：如何支持动态批处理？如何处理多模态输入？）
• 在分布式KV缓存优化中，你认为最大的挑战是什么？有哪些可能的解决方案？
• 深入复习主流推理引擎（vLLM, TensorRT-LLM等）的架构文档和博客，理解其核心设计，如PagedAttention、Triton Inference Server等