企业微信
企业微信-大模型训练框架开发工程师-AI Infra（成都/北京）
企业微信-大模型训练框架开发工程师-AI Infra（成都/北京）
发布于 6 小时前普通员工/个人贡献者
全职员工仅现场办公高性能计算
高性能计算
Cuda
Gpu
Nvidia
Pytorch
Tensorrt-Llm
分布式训练
大模型
性能优化
值不值得投
69综合评分
综合评分 69
前沿大模型性能优化岗，技术成长性强，薪资有竞争力但WLB未明确。
从薪资福利、成长空间、工作节奏和岗位方向综合评估，方便横向比较。
薪资怎么样
3万
比高性能计算中位数低
发布情况
新岗位 · 今天发布
公司情况
公司还在招多个职位
9 个在招
职位详情
关于这个职位
该职位负责大模型训练和推理场景下的性能分析与优化，重点针对NVIDIA GPU及国产芯片的计算、显存、通信和调度瓶颈进行调优
你需要使用CUDA、Triton等工具开发高性能算子，并优化分布式训练框架，以提升GPU利用率和系统吞吐量
最低要求
熟悉 C/C++、CUDA 或 Triton 编程，有 GPU 算子开发或性能优化经验
熟悉 NVIDIA GPU 架构，理解 SM、Warp、Tensor Core、Shared Memory、Memory Coalescing、Occupancy 等概念
熟悉大模型训练或推理流程，了解 Attention、GEMM、MoE、KV Cache、并行策略等核心模块
熟悉分布式训练/推理优化，理解 TP、PP、DP、EP、NCCL、RDMA 等技术
有实际 profiling 和性能调优经验，能够通过工具定位瓶颈并给出优化方案
有 NVIDIA GPU 或 国产加速卡 实际优化经验者优先
不要求候选人覆盖 AI 全栈所有方向，只要在大模型训练/推理、GPU 算子优化、分布式通信、性能调优、推理框架等任一方向有较深入理解和实践经验，均欢迎投递
工作职责
负责大模型训练/推理场景下的性能分析与优化，重点优化 NVIDIA GPU 及 国产芯片 的计算、显存、通信和调度瓶颈
负责 CUDA / Triton / C++ 高性能算子开发与优化，包括 GEMM、Attention、MoE、KV Cache、通信融合等方向
负责多卡、多机训练/推理性能调优，优化 NCCL、NVLink、NVSwitch、InfiniBand/RDMA 等通信链路
负责基于 NVIDIA GPU 和 国产芯加速卡 的性能调优，提升 GPU 利用率、吞吐、延迟和显存效率
负责 PyTorch、TensorRT-LLM、vLLM、SGLang、Megatron-LM 等框架下的大模型性能优化落地
结合 Nsight Systems、Nsight Compute、CUDA Profiler 等工具进行性能分析，定位并解决性能瓶颈
优先资格
有 NVIDIA GPU 或 国产加速卡 实际优化经验者优先
AI 洞察
优缺点分析
优点
- 工作内容聚焦大模型性能优化，处于AI技术栈底层核心，技能积累价值高
- 有机会接触NVIDIA GPU和国产芯片等前沿硬件，技术视野开阔
- 企业微信作为大厂产品，平台资源丰富，项目落地影响力大
- 性能优化工作技术难度高，需要持续跟进硬件和框架的最新发展
- 可能面临多卡多机环境下的复杂调试，对耐心和系统思维要求高
- 国产芯片优化经验要求可能增加学习成本和不确定性
- 适合有扎实编程基础、热爱底层性能优化、并希望深耕AI基础设施领域的工程师
缺点 / 挑战
暂无明显挑战项
角色解读
- 可向AI系统架构师或性能优化专家方向发展，深耕底层基础设施
- 随着大模型技术演进，有机会参与前沿框架设计，成为技术领导者
- 积累国产芯片优化经验，可拓展至异构计算领域的跨界发展
- 分析和优化大模型训练/推理的性能瓶颈，针对GPU硬件和通信链路进行深度调优
- 开发高性能CUDA/Triton算子，提升GEMM、Attention等核心模块的执行效率
- 在多卡多机环境下部署和优化分布式训练框架，确保资源高效利用
- 精通C/C++、CUDA或Triton编程，具备GPU算子开发与性能分析能力
- 深入理解NVIDIA GPU架构（如SM、Tensor Core）和大模型训练流程
- 熟悉分布式训练技术（如NCCL、RDMA），能进行多机通信优化
- 熟练使用性能分析工具（如Nsight Systems）定位并解决瓶颈
申请策略
- 面试前可针对JD中的技术点（如MoE、RDMA）准备简要的原理和优化思路
- 关注企业微信或腾讯在AI Infra领域的公开技术分享，了解业务场景
- 突出CUDA/Triton算子开发或GPU性能优化的项目经验，量化性能提升指标
- 列举熟悉的大模型框架（如PyTorch、Megatron-LM）和分布式训练技术
- 强调使用Nsight等工具进行性能分析和瓶颈定位的实际案例
- 深入学习NVIDIA GPU架构和CUDA编程模型，通过实战练习算子优化
- 研究大模型训练框架（如vLLM、SGLang）的源码，理解其性能关键点
- 了解国产加速卡生态，如华为昇腾等，拓展技术栈
面试指南
- 采用‘问题-方法-结果’结构：先描述场景，再说明分析工具和优化手段，最后展示量化收益
- 对于技术原理问题，从基础概念（如GPU内存层次）出发，结合实际经验阐述
- 强调跨团队协作和持续监控在性能优化中的重要性
- 如何分析和优化一个大模型训练任务的性能瓶颈？
- 请描述一个你开发的CUDA算子优化案例，遇到了哪些挑战？
- 在多机分布式训练中，如何优化NCCL通信效率？
- 对于国产GPU芯片，你认为性能调优与NVIDIA GPU有何不同？
- 你如何评估一个推理框架（如TensorRT-LLM）的性能？
职位点评
薪资福利70
成长发展85
工作生活50
使命价值65
薪资福利
70中等
JD未披露具体薪资和福利信息，但作为大厂AI基础设施岗位，市场薪酬通常有竞争力。
薪资信号未披露（AI估算：2千–4万/月）
成长发展
85较高
岗位涉及大模型、GPU优化等前沿技术，提供深入底层系统开发的机会，技术成长性强。
技术前沿前沿/新兴技术
技术栈CUDA、Triton、GPU、NCCL、RDMA、PyTorch、TensorRT-LLM、大模型
业务类型ambiguous
工作生活
50较低
JD未提及办公模式或工作生活平衡信息，可能需要现场办公，加班情况未知。
工作模式未明确
办公地点未明确
加班情况未提及（无法判断）
使命价值
65中等
AI Infra支持大模型应用落地，具有技术推动价值，但社会影响力相对间接。
行业发展高速增长赛道
社会影响中性/一般
创新程度积极采用新技术
企业微信 的其他在招职位
相似职位推荐
Watch Jobs