腾讯
腾讯云视频大模型推理加速工程师(
腾讯云视频大模型推理加速工程师(
发布于 1 小时前普通员工/个人贡献者
全职员工仅现场办公算法优化工程师
算法优化工程师
Cuda
Gpu加速
Sglang
Tensorrt
Vllm
多模态模型
推理加速
模型蒸馏
值不值得投
78综合评分
综合评分 78
腾讯核心AI基础设施岗，技术栈前沿且极具含金量，薪资竞争力强，适合追求技术深度的资深研发人才。
从薪资福利、成长发展、工作生活和使命价值四个维度综合评估，方便横向比较。
薪资怎么样
5万
比算法优化工程师中位数高
发布情况
新岗位 · 今天发布
公司情况
这家公司招聘很活跃
约 2010 个在招 · 其中算法优化工程师 8 个
市场机会
选择面较广
深圳 · 算法优化工程师 · 78 个在招
职位详情
关于这个职位
该职位主要负责腾讯云视频大模型的推理加速，聚焦图片/视频编辑与生成类模型的云端推理引擎开发与效率优化
你需要运用模型蒸馏技术降低推理延迟，并深入底层进行算子融合、量化等性能调优，实现AI算法的高质量落地
最低要求
熟练掌握C/C++, python语言，熟悉CPU/GPU异构开发，深入理解CUDA编程模型，能独立完成生成类模型的推理加速或性能调优项目
具备 TensorRT/TensorRT-LLM/FasterTransformer/vllm/sglang 等推理引擎深度实践经验，主导过基于上述引擎的大模型推理系统定制化开发与性能调优
精通推理引擎底层优化技术（算子融合、量化策略、动态批处理、KV 缓存优化)
理解生成类模型的核心架构（如扩散模型UNet/Dit结构），熟悉推理过程中的关键性能卡点
熟悉CPU/GPU异构加速瓶颈分析方法
工作职责
核心攻坚多模态模型加速：聚焦图片/视频的编辑、生成类模型加速，主导深度学习云端推理引擎的核心开发与推理效率优化，实现各相关AI算法的高质量落地
蒸馏技术融合应用：结合生成类模型特性，将模型蒸馏技术（如DMD、CM等）融入推理引擎优化方案，在保证质量的前提下，进一步降低推理延迟
优先资格
有服务器端 AI 芯片、GPU加速经验优先
AI 洞察
优缺点分析
优点
- 依托腾讯庞大的业务场景，能接触到业界最前沿的多模态大模型与海量并发推理需求
- 技术栈极具含金量，掌握CUDA与主流推理引擎优化经验在AI基础设施领域极具竞争力
- 跨部门协同与业务落地过程中，需平衡模型生成质量与推理性能
- 适合对底层系统优化有浓厚兴趣，具备扎实C++/CUDA基础，且希望在AI大模型基础设施方向深耕的资深技术人才
缺点 / 挑战
- 大模型推理优化属于深水区技术，需要不断跟进最新模型架构与硬件特性，技术迭代压力较大
角色解读
- 可向大模型推理架构师、AI基础设施技术专家方向发展
- 深入多模态大模型的核心算法落地与商业化部署，成为底层系统优化领域的顶尖人才
- 负责图片/视频生成类多模态大模型的云端推理引擎开发与加速优化
- 结合模型蒸馏技术（如DMD、CM）降低推理延迟，实现AI算法的高效落地
- 精通C/C++/Python及CUDA编程，具备TensorRT/vLLM等主流推理引擎的深度定制与调优经验
- 熟悉扩散模型等生成类模型架构，掌握算子融合、量化等底层优化技术
申请策略
- 了解腾讯云在视频生成、多模态大模型方面的最新业务布局与产品，在面试中展现对业务场景的理解
- 突出在TensorRT/vLLM等推理引擎上的定制化开发与性能调优成果，量化延迟降低或吞吐量提升的具体指标
- 展示对扩散模型等生成类模型架构的理解及实际加速项目经验
- 深入学习最新的大模型推理加速技术（如FlashAttention、PagedAttention），熟悉主流AI芯片的底层特性
- 研究模型蒸馏技术（如DMD、CM）在生成类模型中的具体应用与优化策略
面试指南
- 采用STAR法则回答项目经验，重点突出“性能卡点分析-优化方案设计-底层代码实现-最终收益量化”的完整闭环
- 对于技术原理问题，从硬件架构（如GPU内存层级、计算单元）和算法特性两个维度进行剖析
- 请详细描述你主导过的一个大模型推理加速项目，具体使用了哪些优化技术，最终性能提升了多少？
- 在CUDA编程中，如何优化内存访问和计算访存比？
- 针对扩散模型（如UNet/DiT）的推理过程，你认为主要的性能瓶颈在哪里，如何针对性优化？
- 模型蒸馏技术（如DMD、CM）在推理引擎中是如何具体融合应用的？
- 复习CUDA编程模型、GPU硬件架构基础，以及TensorRT/vLLM的底层实现原理
- 准备1-2个自己主导的深度优化项目案例，确保对细节了如指掌
职位点评
薪资福利85
成长发展90
工作生活50
使命价值80
薪资福利
85较高
该岗位属于核心AI基础设施方向，技术门槛高，薪资水平在市场中具备较强竞争力。
薪资信号未披露（AI估算：3.5千–6.5万/月）
成长发展
90较高
岗位聚焦多模态大模型推理加速与蒸馏技术，处于AI技术最前沿，能积累极具价值的底层优化与系统架构经验。
技术前沿前沿/新兴技术
技术栈C/C++、Python、CUDA、TensorRT、TensorRT-LLM、FasterTransformer、vllm、sglang、DMD、CM、UNet、Dit
业务类型ambiguous
工作生活
50较低
JD中未提及工作模式与加班情况，该岗位涉及核心算法攻坚与推理引擎底层优化，技术挑战较大，WLB情况无法明确判断。
工作模式未明确
办公地点科技园/产业园
加班情况未提及（无法判断）
使命价值
80较高
岗位致力于多模态大模型的推理加速，推动人工智能技术的实际落地，具有较高的技术使命感与行业影响力。
行业发展高速增长赛道
社会影响正向社会影响力较高
使命信号渴望为世界带来新意、带来美好的、撼动人心的改变
创新程度积极采用新技术
Watch Jobs