腾讯
大模型性能优化研发专家
大模型性能优化研发专家
发布于 2 小时前普通员工/个人贡献者
全职员工仅现场办公机器学习工程
机器学习工程
Cuda
Deepspeed
Tensorrt-Llm
Vllm
分布式训练
大模型优化
框架开发
高性能计算
值不值得投
80综合评分
综合评分 80
顶尖大厂核心研发岗、前沿技术栈驱动、高薪高成长、工作强度适中偏上
从薪资福利、成长发展、工作生活和使命价值四个维度综合评估，方便横向比较。
薪资怎么样
8.3万
比机器学习工程中位数高
发布情况
新岗位 · 今天发布
公司情况
这家公司招聘很活跃
约 2180 个在招 · 其中机器学习工程 49 个
市场机会
选择面较广
上海 · 机器学习工程 · 约 400 个在招
职位详情
关于这个职位
负责基于云平台与业界主流框架进行大模型训推加速方案开发与优化，参与重点项目POC以定位并解决性能瓶颈
同时跟踪前沿学术动态，将研究成果转化为框架功能，并支持腾讯内部核心业务的框架交付与迭代，助力公有云客户实现极致性能需求
最低要求
熟悉主流的大模型推理框架及其加速技术，如vLLM、SGlang、TensorRT-LLM等，熟练分析单机及分布式情况下的性能热点和优化手段
熟悉主流的训练框架和分布式框架，包括Megatron-LM、DeepSpeed、verL、LLama-factory等，熟悉常见的分布式并行策略，了解显存、通信与计算相关性能瓶颈和优化手段
工程经验上具备大型项目架构设计能力，能独立解决性能调优、多节点调试等复杂问题
具备良好的沟通能力与团队协作精神
工作职责
训推框架开发与优化：基于云平台和业界常见训推框架，开发加速方案，满足公有云客户对性能的极致需求
应用优化：参与重点项目POC，分析性能瓶颈，快速定位和解决重点问题
前沿技术探索：跟踪学术动态，将最新研究成果转化为框架功能，提升产品竞争力
自研核心业务支持：参与腾讯内部核心业务相关训推框架的交付与迭代
优先资格
熟悉自动驾驶相关算法者优先，例如BEVformer、MapTRV2、SparseDrive、FlashOCC、Pointpillars等，熟练分析自驾场景的性能瓶颈和优化方案
熟悉CUDA编程、高性能计算优化（如算子融合、通信优化）者优先
熟悉NCCL、MPI等集合通信算法者优先
有强烈的技术热情者优先
AI 洞察
优缺点分析
优点
- 接触行业最前沿的大模型底层技术栈，技术壁垒高
- 依托腾讯云生态，拥有海量真实业务场景与顶级算力资源
- 平台广阔，利于积累硬核工程经验与学术影响力
- 技术迭代极快，需持续跟进最新论文与开源社区动态
- 性能调优工作枯燥且容错率低，需面对复杂的分布式调试环境
- 对底层原理与数学功底要求极高
- 适合热爱底层技术研发、具备极强自学能力与抗压能力，且希望在AI基础设施领域深耕的技术专家型求职者
缺点 / 挑战
暂无明显挑战项
角色解读
- 可向AI基础设施架构师或首席科学家方向发展
- 也可转向大模型平台产品负责人或技术管理岗，主导云原生AI算力调度体系的建设
- 负责大模型训练与推理框架的底层开发与性能加速方案设计
- 深入业务场景进行POC测试，定位并攻克分布式环境下的性能瓶颈
- 跟踪学术界前沿成果，将其工程化落地至自研框架中
- 精通主流LLM推理/训练框架及分布式并行策略
- 掌握CUDA编程与高性能计算优化技术
- 具备大型系统架构设计与多节点复杂问题调试能力
申请策略
- 提前研究腾讯云AI Infra产品线布局
- 准备1-2个深度技术复盘案例，展示从理论到工程落地的完整闭环思维
- 突出大模型框架二次开发或性能优化的具体项目，量化加速比/显存节省比例
- 详细列出掌握的分布式并行策略与CUDA优化案例
- 强调解决过的高并发/多节点调试难题
- 深入研读Transformer架构底层实现与通信原语
- 补充PyTorch分布式训练源码阅读经验
- 练习使用Nsight Systems等性能分析工具进行瓶颈定位
面试指南
- 采用STAR法则描述项目背景、技术选型、遇到的具体瓶颈、优化手段及最终量化收益
- 针对系统设计题，先明确约束条件，再分层阐述计算、存储、通信的协同优化策略
- 请分享一次你通过CUDA优化显著提升算子运行效率的经历
- 如何设计一个支持千卡集群的高效分布式训练通信拓扑？
- vLLM的PagedAttention机制解决了什么核心问题？
- 复习分布式系统基础理论与经典论文
- 梳理自己过往项目中涉及的性能剖析工具链使用经验
- 了解当前大模型推理服务的主流部署架构与痛点
职位点评
薪资福利85
成长发展90
工作生活60
使命价值75
薪资福利
85较高
腾讯作为头部大厂，提供极具竞争力的薪酬包与完善的福利体系，符合市场对高级技术专家的定价标准。
薪资信号偏高 (6.5千–10.0万/月)
成长发展
90较高
岗位聚焦大模型底层优化与前沿技术转化，技术栈处于行业绝对前沿，能提供极高的专业成长空间与学术工程化实践机会。
技术前沿前沿/新兴技术
技术栈vLLM、SGlang、TensorRT-LLM、DeepSpeed、CUDA、Megatron-LM
业务类型profit_center
工作生活
60中等
互联网大厂核心技术岗通常伴随一定的工作强度与敏捷迭代节奏，但腾讯整体文化相对注重工程师体验，WLB处于行业中等偏上水平。
工作模式未明确
办公地点市区核心地段
加班情况未提及（无法判断）
使命价值
75中等
致力于推动AI基础设施性能突破，助力公有云客户降本增效，具有显著的技术价值与产业赋能意义。
行业发展高速增长赛道
社会影响正向社会影响力较高
创新程度积极采用新技术
Watch Jobs