微信搜索-LLM大模型推理研发高级工程师-研发优化

优缺点分析

角色解读

• 技术专家路线：深耕模型推理优化与系统架构，成为LLM Infra领域专家
• 架构师路线：负责大规模AI系统的整体架构设计与技术规划
• 技术管理路线：带领团队攻克技术难题，推动业务与技术协同发展
• 负责设计并实现微信搜索场景下，适配不同规模大模型的高效线上推理引擎
• 通过系统工程方法优化推理性能与稳定性，降低资源成本，应对海量用户访问
• 与算法团队协作，将前沿LLM Infra技术工程化落地，驱动搜索系统升级
• 精通C/C++编程与Linux系统开发，掌握扎实的算法与数据结构
• 深入理解大模型架构原理，熟悉VLLM、SGLang等主流推理框架
• 具备分布式系统设计与优化经验，特别是搜广推相关场景的工程化能力

申请策略

• 简历中强调“性能优化”、“稳定性”、“成本降低”等工程价值导向的成果
• 研究微信搜索的业务特点和技术博客，了解其可能面临的独特挑战
• 准备好讨论一个复杂系统性能优化或大模型部署中遇到的难点及解决方案
• 突出在大模型推理优化或相关分布式系统上的具体项目经验，量化性能提升（如吞吐量、延迟、成本降低）
• 详细展示C/C++、Linux系统编程能力，以及在搜广推等场景下的工程优化案例
• 列举对VLLM、SGLang等推理框架的理解或二次开发经验，以及大模型算法原理的掌握程度
• 深入钻研LLM推理引擎的核心技术，如Attention优化、量化、蒸馏、动态批处理等
• 系统学习搜广推系统架构，理解检索引擎、KV服务等关键组件

面试指南

• 使用STAR法则清晰描述项目背景、任务、行动和结果，突出个人贡献和技术决策
• 从分层（负载均衡、调度、推理引擎、资源管理）角度阐述架构设计，体现系统思维
• 对比分析框架的核心技术点（如调度策略、显存管理），并联系实际业务场景说明选型考量
• 请介绍一个你过去负责的大模型推理优化项目，你具体做了什么，最终取得了哪些量化收益？
• 如果给你一个支持百万QPS的搜索场景，你会如何设计大模型推理服务的整体架构？
• VLLM和SGLang这两个推理框架在设计和适用场景上有什么主要区别？
• 在搜广推场景中，如何将传统的分布式系统经验应用到大模型推理优化上？
• 系统梳理并准备1-2个最具代表性的性能优化项目，准备好画图和量化数据