微信搜索-AI Infra 工程师-大模型推理方向(深圳)（广州）

优缺点分析

角色解读

• 在技术深度上，可以成为AI Infra领域的专家，专注于推理优化、系统架构或特定硬件平台
• 在广度上，可以拓展至模型训练优化、全链路AI平台构建，或转向AI系统架构师角色
• 凭借对业务的深入理解，也可以向技术管理方向发展，带领团队攻克技术难题
• 设计并开发大语言模型（LLM）和多模态模型（VLM）的高性能推理引擎，为微信搜索和智能Agent等产品提供底层算力支持
• 深入研究并应用最新的推理加速技术（如量化、算子融合、动态批处理、分布式内存优化），以降低推理成本、提升响应速度
• 与搜索算法团队紧密协作，共同探索和实现能够从根本上提升搜索体验的大模型应用方案
• 具备扎实的系统工程能力，有设计、开发和部署大规模推理系统的完整经验
• 精通主流大模型架构及至少一种主流推理框架（如vLLM, SGLang, TensorRT-LLM），并有深度的优化实践经验
• 熟悉GPU/CPU异构计算，了解AI硬件特性，并能针对算子性能进行调优

申请策略

• 仔细研究微信搜索和智能产品的技术博客或论文，了解其技术栈和挑战，在面试中展现你的深入思考和解决方案
• 准备一个自己主导的推理优化或大规模系统开发案例，能够清晰地阐述问题、方案、结果和反思
• 重点突出大模型推理引擎开发或优化的项目经验，最好有量化、分布式等具体技术点的实践案例
• 展示在大规模系统设计、性能调优方面的成果，如QPS提升、延迟降低、成本优化等可量化的指标
• 强调使用过vLLM、TensorRT-LLM等主流推理框架的经验，以及对GPU算子优化的了解
• 深入学习至少一个主流开源推理框架的源码，理解其核心优化原理
• 系统性地复习和实践CUDA编程、算子优化、量化等底层加速技术
• 研究最新的LLM/VLM架构（如MoE）及其在推理侧的特殊优化需求

面试指南

• 使用STAR法则（情境-任务-行动-结果）来组织回答，重点突出你的技术决策、量化结果和思考过程
• 回答系统设计类问题时，先明确核心目标和约束条件，然后从分层（计算、存储、调度）或组件化角度展开
• 对于优化类问题，遵循“分析瓶颈-提出方案-对比验证-总结沉淀”的逻辑链条
• 描述一个你设计或优化过的大规模推理系统架构，遇到了哪些性能瓶颈？你是如何分析和解决的？
• 在动态批处理和分布式KV缓存优化方面，你有哪些具体的设计经验和实践效果？
• 如果让你为微信搜索设计一个全新的大模型推理服务，你会如何考虑高并发、低延迟和成本控制？
• 介绍一下你使用vLLM/TensorRT-LLM进行优化的经验，其中最棘手的问题是什么？
• 准备1-2个最能体现你系统设计和优化能力的深度项目案例，可以画架构图并复盘细节