微信 -WeLM 大模型推理优化工程师（深圳、上海）

优缺点分析

角色解读

• 技术专家路线：持续深耕推理优化技术，成为该领域的资深专家或架构师，主导公司级AI推理基础设施的设计与演进
• 技术管理路线：在技术能力出众的基础上，带领小团队负责特定模块或项目，向技术主管或经理方向发展
• 领域拓展路线：向AI系统、编译器、芯片协同设计等更底层的系统优化方向拓展，或转向AI算法与工程结合更紧密的角色
• 负责大语言模型推理服务的性能深度优化，核心目标是让模型跑得更快、更省资源
• 使用模型压缩技术（如量化、稀疏化）对大型模型进行“瘦身”，并开发适配多种AI芯片的推理框架
• 通过性能基准测试和profiling工具，定位并解决模型服务在不同业务场景（如实时对话）下的性能瓶颈
• 跟踪AI推理领域的最新研究成果，并将其转化为生产环境中的可用技术，同时与算法团队紧密合作
• 扎实的C++和Python编程功底，这是实现底层性能优化的基础
• 精通CUDA编程和GPU性能调优，熟悉Nsight等工具，这是该岗位的核心技能
• 熟悉PyTorch/JAX等主流深度学习框架，并深入理解Transformer、KV Cache等LLM架构的原理与优化思路
• 具备良好的工程实践能力，包括架构设计、文档编写和与算法团队沟通协作的能力

申请策略

• 在投递和面试中，展现出你对“性能”这一核心指标的热情和执着，以及你思考问题和优化的系统性方法论
• 可以主动研究微信或腾讯在AI推理方面的公开技术分享或论文，了解其技术栈和关注点，在面试中体现你的主动性和准备
• 重点突出使用CUDA进行GPU编程优化的具体项目经验，量化性能提升的百分比或绝对值（如延迟降低XX%，吞吐量提升XX倍）
• 详细描述参与过的模型部署、推理服务框架开发或性能调优项目，说明你使用的工具（如Nsight, Triton）和解决的关键问题
• 展示对Transformer、KV Cache等LLM推理关键机制的理解，以及在实践中对其进行优化的案例
• 列出熟练掌握的编程语言（C++/Python）、深度学习框架（PyTorch）和性能分析工具
• 系统性地学习和实践CUDA编程，深入理解GPU硬件架构（如SM、Shared Memory）和内存层次，掌握profiling和优化技巧
• 通过阅读论文和开源代码，深入了解当前主流的LLM推理优化技术，如PagedAttention、连续批处理、模型量化（INT8/INT4）等

面试指南

• 对于项目问题，使用STAR原则（情境-任务-行动-结果）清晰描述，重点突出“行动”中你的技术选型、分析过程和解决思路
• 对于技术设计问题，先阐述关键设计目标（如延迟、吞吐、成本），然后分模块（如调度层、执行层、资源层）或分层次（如应用层、算子层、硬件层）进行阐述，体现系统性思维
• 对于算法或概念问题，先简要解释原理，然后重点说明其在推理优化中的实际应用、权衡（如精度损失与速度提升）以及你对它的理解
• 请描述一个你过去进行过的最复杂的性能优化项目
• 你是如何定位瓶颈的？采取了哪些具体优化手段？最终效果如何？
• 在大模型推理场景下，有哪些常见的性能瓶颈？从系统角度（如内存、计算、通信）可以如何优化？
• 如何为大语言模型（如Transformer架构）设计一个高吞吐量、低延迟的推理服务架构？需要考虑哪些关键因素？
• 你了解哪些模型压缩技术（如量化、剪枝、蒸馏）？请说明它们的原理、适用场景和可能的优缺点