微信
微信小程序-大模型infra工程师-Coding方向
微信小程序-大模型infra工程师-Coding方向
发布于 大约 21 小时前普通员工/个人贡献者
全职员工仅现场办公人工智能
人工智能
Deepspeed
Gpu资源管理
Kv Cache
Llm推理优化
Sglang
Vllm
分布式训练
系统开发
值不值得投
71综合评分
综合评分 71
技术前沿、影响力明确的AI Infra核心岗，技术成长性强，但工作模式与WLB信息不明确。
从薪资福利、成长空间、工作节奏和岗位方向综合评估，方便横向比较。
薪资怎么样
43K
比人工智能中位数高
发布情况
新岗位 · 今天发布
公司情况
这家公司招聘很活跃
79 个在招 · 其中人工智能 8 个
市场机会
选择适中
广州 · 人工智能 · 38 个在招
职位详情
关于这个职位
该职位是微信小程序团队的大模型基础设施工程师，专注于分布式训练与LLM推理服务的建设与优化
核心工作包括提升训练效率、开发高性能的LLM推理能力（如vLLM/SGLang适配与优化）以及GPU资源管理，以支撑微信小程序场景下的AI应用
最低要求
熟练掌握 C / C++ / Python 等至少一门编程语言，具备扎实的数据结构和算法功底，有良好的工程素养
熟悉主流分布式训练框架（DeepSpeed / Megatron-LM / FSDP 等），理解常见的显存优化技术和训练加速手段，有异步强化学习训练框架开发经验者优先
熟悉主流 LLM 推理服务框架（vLLM / SGLang 等），理解 KV Cache 管理、Prefill-Decode 分离、Continuous Batching、投机解码等推理优化技术，有推理链路性能调优与线上稳定性治理经验
具备快速学习能力，有团队合作精神，对探索前沿技术有热情
工作职责
负责分布式训练基础设施的建设、优化与维护，优化训练过程中的显存管理、计算资源调度与分布式通信效率，提升训练速度与资源利用率，支撑算法研发与模型训练
负责微信小程序 Coding Agent 场景下 LLM 推理服务的建设与优化，涵盖 vLLM / SGLang 等框架适配、请求调度、KV Cache 管理、Prefill-Decode 分离、长上下文推理、投机解码等核心能力建设
负责 GPU 资源管理，通过资源精细化分配和灵活调度提升整体利用率
优先资格
有异步强化学习训练框架开发经验者优先
AI 洞察
优缺点分析
优点
- 技术前沿性强，能接触到大模型训练与推理最前沿的系统优化技术
- 业务场景明确（微信小程序），技术工作能直接产生广泛的产品影响力
- 技术栈深且更新快，需要持续投入大量精力学习新的框架和优化技术
- 工作涉及训练与推理全链路，问题排查和优化复杂度高
- 在大平台内，跨团队协作和推动技术方案落地可能需要较强的沟通能力
- 适合拥有扎实系统编程和分布式系统基础，对大模型底层技术有浓厚兴趣，追求技术深度，并希望在大规模真实场景中实践AI infra的工程师
缺点 / 挑战
- 依托腾讯的平台和资源，有机会处理超大规模计算挑战，积累宝贵经验
角色解读
- 技术专家路径：深耕分布式系统与AI Infra领域，成为该方向的资深技术专家
- 架构师路径：负责更大规模、更复杂的AI计算平台架构设计与演进
- 技术管理路径：带领团队进行AI基础设施的规划、建设与运维
- 建设和优化大规模分布式训练系统，确保AI模型训练高效稳定
- 针对微信小程序的AI应用场景，开发和优化高性能的LLM推理服务，提升响应速度和资源效率
- 精细化管理和调度GPU计算资源，最大化硬件利用率，支持业务发展
- 精通C++、Python等系统级编程语言，具备扎实的工程实现能力
- 深入理解分布式计算原理，有DeepSpeed、Megatron-LM等框架的实战经验
- 熟悉LLM推理全链路技术栈，对vLLM/SGLang等框架有深入研究和优化经验
- 对AI基础设施领域有强烈兴趣和持续学习的热情
申请策略
- 仔细研读岗位职责，思考自己过往经验与每一项职责的匹配点
- 面试前，准备好一个完整的、关于如何优化一个具体系统性能（训练或推理）的技术案例
- 突出使用C++/Python进行系统开发和性能优化的项目经验
- 详细描述在分布式训练框架（如DeepSpeed）或LLM推理框架（如vLLM）上的实践经验、遇到的挑战及解决方案
- 量化你在提升训练速度、推理吞吐量或资源利用率等方面取得的具体成果
- 如有GPU编程、CUDA优化或异步强化学习相关经验，请重点展示
- 深入研读vLLM、SGLang等框架的源码，理解其核心设计与优化点
- 系统学习分布式训练的通信原理（如NCCL）和显存优化技术（如ZeRO）
面试指南
- 使用STAR法则（情境、任务、行动、结果）来结构化回答经历类问题，重点突出你的技术决策和量化成果
- 对于原理性问题，先给出核心概念解释，再结合实际场景或代码层面（如KV Cache管理机制、调度算法）进行阐述
- 对于开放性问题，从多个维度（如延迟、吞吐量、成本、易用性）进行分析，并体现你的技术视野
- 请描述一次你优化分布式训练性能的经历，具体遇到了什么瓶颈？你采取了哪些技术手段？最终效果如何？
- 解释一下KV Cache在LLM推理中的作用，以及Continuous Batching相比静态Batching的优势
- 如果让你为一个新的LLM模型适配vLLM框架，你会考虑哪些关键因素？
- 在GPU资源紧张时，如何设计一个调度策略来平衡多个训练和推理任务的优先级？
- 你如何看待当前LLM推理优化技术的主要挑战和未来趋势？
职位点评
薪资福利70
成长发展80
工作生活50
使命价值85
薪资福利
70中等
职位属于大型上市公司的核心技术岗，薪资待遇应具市场竞争力，但JD未提及具体薪资结构和详细福利，信号不充分。
薪资信号面议 (30K-55K/月)
成长发展
80较高
岗位涉及分布式训练、LLM推理优化等前沿且核心的AI Infra技术，能获得深度技术成长和行业影响力积累。
技术前沿前沿/新兴技术
技术栈分布式训练、vLLM、SGLang、KV Cache、GPU资源管理、DeepSpeed、Megatron-LM
业务类型ambiguous
工作生活
50较低
JD未明确提及工作模式（远程/混合等）或工作时间，办公地点为现场，WLB情况无法从文本判断。
工作模式未明确
办公地点科技园/产业园
加班情况未提及（无法判断）
使命价值
85较高
AI Infra是支撑大模型时代的基础，该岗位的工作直接赋能微信生态的AI创新，技术价值和社会影响力感知较强。
行业发展高速增长赛道
社会影响正向社会影响力较高
使命信号渴望为世界带来新意、带来美好的、撼动人心的改变
创新程度积极采用新技术
Watch Jobs