微信搜索-AI Infra 工程师-大模型推理方向(深圳)（广州）

优缺点分析

角色解读

• 技术深耕：成为推理系统架构专家，主导下一代推理框架的设计
• 横向扩展：转向AI系统全栈，涉及训练、部署、集群调度等
• 管理路线：带领技术团队，负责整体AI基础设施方向
• 负责开发和优化LLM/VLM推理引擎，提升AI搜索和智能Agent的推理性能
• 跟踪前沿技术（如vLLM、TensorRT-LLM），并将优化方案落地到实际产品中
• 与搜索算法团队紧密协作，对模型结构和推理流程进行联合优化
• 深入理解LLM/VLM模型架构和推理原理，具备大规模推理系统实战经验
• 精通至少一种推理引擎（vllm/sglang/TRT-llm），熟悉加速方法如算子融合、量化、动态批处理
• 扎实的编程能力（C++/CUDA等），能够进行低层次性能优化

申请策略

• 面试前了解微信搜索业务场景，思考AI搜索对推理系统的特殊需求
• 准备一个端到端的推理优化项目经验，从问题发现到解决的全过程
• 突出大规模推理系统的设计部署经验，量化优化效果（如延迟降低、吞吐提升）
• 详细说明对vllm/sglang等源码的贡献或二次开发经历
• 展示与算法团队联合优化的案例，体现跨团队协作能力
• 如有CUDA/汇编优化经验，务必重点提及
• 深入学习NVIDIA GPU架构和CUDA编程，掌握性能分析工具（Nsight）
• 阅读并复现最新推理优化论文（如FlashAttention、PagedAttention等）

面试指南

• 采用STAR法则描述项目：情境-目标-行动-结果，突显技术深度和量化成果
• 对于比较类问题，先阐述共同点，再差异点，最后结合场景给出推荐
• 涉及原理问题时，从数学基础到工程实现逐步展开，展现系统理解
• 请描述你优化过的最大规模推理系统，遇到了哪些挑战，如何解决？
• 比较vllm和TensorRT-LLM的优缺点，在什么场景下选择哪个？
• 如何实现LLM推理的量化？请详细说明PTQ和QAT的区别及适用场景
• 针对长序列推理，如何优化KV缓存？请介绍PagedAttention的原理
• 如何诊断推理系统的性能瓶颈？请说明排查步骤和工具