腾讯
推理框架研发工程师-国产GPU方向-深圳/北京/上海
推理框架研发工程师-国产GPU方向-深圳/北京/上海
发布于 2 小时前普通员工/个人贡献者
全职员工仅现场办公后端开发
后端开发
Gpu性能调优
Tensorrt-Llm
Vllm
分布式并行策略
大模型推理框架
值不值得投
77综合评分
综合评分 77
聚焦大模型推理与国产算力底层优化，技术栈前沿、成长空间广阔，适合深耕AI基础设施的研发工程师。
从薪资福利、成长发展、工作生活和使命价值四个维度综合评估，方便横向比较。
薪资怎么样
4.8万
比后端开发中位数高
发布情况
新岗位 · 今天发布
公司情况
这家公司招聘很活跃
约 2180 个在招 · 其中后端开发 59 个
市场机会
选择面较广
上海 · 后端开发 · 约 310 个在招
职位详情
关于这个职位
负责大模型推理引擎及PD分离调度系统的研发与性能调优，提升大规模分布式推理效率
深度适配主流GPU与国产异构AI芯片，通过底层架构优化打造极致性价比的AI基础设施
最低要求
熟练掌握C/C++、Python编程语言，具备良好的coding和调试能力
熟悉主流大模型推理框架，如vllm，sglang，tensorrt-llm等，具备语言、多模态模型大规模部署和优化经验
熟悉并行策略，如数据并行、流水线并行等，熟悉NVLINK、GPU RDMA通信者优先
熟悉各类深度学习网络和算子底层实现细节，有实操经验优先
熟悉主流开源模型及其架构特点，具备针对不同模型进行分析优化的能力优先
具备GPU、AI芯片体系结构知识，熟悉芯片特性，具备系统性能分析和调优经验优先
工作职责
研发及优化大模型推理引擎、PD分离推理调度系统，提升大规模分布式推理系统的整体效率
支持主流GPU和异构AI芯片，优化大模型推理性能，打造极致性能成本优势
AI 洞察
优缺点分析
优点
- 接触前沿大模型推理技术与国产算力生态
- 依托海量业务场景，技术落地价值高
- 平台资源丰富，利于积累底层系统优化经验
- 需兼顾学术前沿与工程落地，调试难度大
- 国产GPU生态仍在演进中，兼容性与性能调优面临较多未知问题
- 高强度技术攻坚节奏较快
- 适合对AI底层系统、高性能计算有浓厚兴趣，且具备扎实C/C++功底与工程实战能力的开发者
缺点 / 挑战
暂无明显挑战项
角色解读
- 可向AI基础设施架构师、高性能计算专家方向发展
- 也可横向拓展至大模型训练框架研发或云原生AI平台构建
- 负责大模型推理引擎的核心开发与性能调优
- 设计并实现PD分离等先进推理调度架构
- 针对国产GPU及主流AI芯片进行底层适配与加速
- 扎实的C/C++与Python编程功底
- 精通vLLM、TensorRT-LLM等主流推理框架
- 掌握GPU/NVLink通信机制与分布式并行策略
- 具备深度学习算子开发与系统级性能分析能力
申请策略
- 提前研究腾讯混元大模型或相关AI基建动态
- 准备1-2个完整的性能调优案例，能清晰阐述瓶颈定位与解决方案
- 突出大模型部署/推理优化项目经历
- 详细列出使用的框架版本、性能提升指标（如吞吐量QPS、延迟降低%）
- 强调C++底层优化与GPU/算子开发经验
- 深入研读vLLM/sglang源码，掌握PagedAttention等核心机制
- 补充CUDA编程与NCCL通信库使用经验
- 了解主流Transformer架构变体
面试指南
- 采用STAR法则（情境-任务-行动-结果）结构化回答
- 重点突出量化指标（如提速XX%、显存节省XX%）
- 展现从profiling到瓶颈定位再到代码/架构优化的完整闭环思路
- 请介绍你优化过的最大规模推理服务，遇到了哪些瓶颈？如何解决的？
- vLLM的PagedAttention原理是什么？相比传统KV Cache有何优势？
- 如何在国产GPU上完成算子移植与性能调优？
- 数据并行与流水线并行的适用场景及通信开销差异？
- 复习计算机体系结构与操作系统基础（内存管理、多线程/进程调度）
职位点评
薪资福利80
成长发展90
工作生活55
使命价值75
薪资福利
80较高
头部互联网企业通常提供具有市场竞争力的薪酬包与完善福利，对追求稳定高回报的求职者具备较强吸引力。
薪资信号未披露（AI估算：3.5千–6.0万/月）
成长发展
90较高
岗位深度绑定大模型推理与国产算力前沿技术，技术栈领先，内部技术分享与晋升通道明确，极大利于技术纵深发展。
技术前沿前沿/新兴技术
技术栈C/C++、Python、vLLM、sglang、TensorRT-LLM、GPU、RDMA、CUDA
业务类型profit_center
工作生活
55较低
互联网大厂常规节奏，虽未明确标注弹性工时，但技术攻坚期可能存在一定加班压力；工作地点覆盖一线城市核心区，通勤相对便利。
工作模式未明确
办公地点市区核心地段
加班情况未提及（无法判断）
使命价值
75中等
投身国产GPU与大模型推理基础设施建设，契合国家算力自主可控战略，具有显著的技术突破意义与行业推动价值。
行业发展高速增长赛道
社会影响正向社会影响力较高
创新程度积极采用新技术
Watch Jobs