微信小程序-大模型infra工程师-Coding方向

优缺点分析

角色解读

• 成为大模型基础设施领域的专家，主导训练和推理架构的设计与演进
• 可向技术管理岗位发展，带领团队负责规模化 AI 基础设施的规划与落地
• 技术纵深发展，涉及 AI 系统、高性能计算、编译优化等前沿方向，行业前景广阔
• 负责分布式训练基础设施的搭建与优化，包括显存管理、资源调度、通信效率提升，直接支撑大模型训练与算法研发
• 针对微信小程序 Coding Agent 场景，建设并优化 LLM 推理服务，涉及 vLLM/SGLang 等框架的适配与性能调优
• 管理 GPU 资源，通过精细化分配和调度策略提升集群利用率，保障线上服务稳定性
• 扎实的 C/C++/Python 编程能力，熟悉数据结构与算法，具备优秀工程素养
• 深入理解分布式训练框架（DeepSpeed、Megatron-LM、FSDP）及显存优化、加速手段
• 熟悉 LLM 推理服务框架（vLLM、SGLang），掌握 KV Cache、Prefill-Decode 分离、投机解码等优化技术，有性能调优经验

申请策略

• 关注腾讯微信事业群的技术博客和开源项目，理解团队技术风格
• 在面试中多表达对性能调优和系统极致的追求，体现技术热情
• 突出分布式训练或推理优化的实战项目，如在调参、框架二次开发或性能提升方面的量化成果
• 展示 C++/Python 底层编程能力，包括内存管理、并发、通信等细节
• 若有 GPU 资源调度或集群管理的经验，需在简历中清晰描述
• 预先了解 vLLM 和 SGLang 的内部实现，如 KV Cache 管理、PagedAttention 等
• 练习分布式训练框架的调试与性能分析，掌握 DeepSpeed 的 ZeRO 优化等技术

面试指南

• 使用 STAR 法则：情境-任务-行动-结果，突出具体技术细节和量化效果
• 先阐述原理，再结合自己的实践，展现对系统性能瓶颈的深入理解和解决思路
• 你是如何设计一个高效的 KV Cache 管理策略的？
• 请介绍一次分布式训练性能优化的经历，具体遇到了什么瓶颈，如何解决？
• vLLM 与 SGLang 的 PagedAttention 有何异同？你如何选择适合业务的推理框架？
• 在 GPU 集群中，如何通过调度策略提高资源利用率？
• 梳理自己的项目，重点准备与训练/推理性能提升相关的案例
• 深入学习当前主流 LLM 推理引擎的架构与优化技术