腾讯视频
腾讯视频云大模型推理加速工程师
腾讯视频云大模型推理加速工程师
发布于 30 分钟前普通员工/个人贡献者
全职员工仅现场办公AI算法
AI算法
Cuda
Gpu加速
Tensorrt
Vllm
大模型推理
性能优化
算子融合
量化策略
值不值得投
79综合评分
综合评分 79
一线大厂核心AI基建岗，技术栈前沿硬核，薪资竞争力强，适合追求极致性能优化的工程师
从薪资福利、成长发展、工作生活和使命价值四个维度综合评估，方便横向比较。
薪资怎么样
4.5万
比AI算法中位数高
发布情况
新岗位 · 今天发布
公司情况
这家公司招聘很活跃
21 个在招
市场机会
选择适中
深圳 · AI算法 · 26 个在招
职位详情
关于这个职位
负责腾讯视频云大模型推理加速，聚焦图片/视频生成类模型的云端推理引擎开发与效率优化
通过融合蒸馏技术、算子融合及底层性能调优，降低推理延迟，实现AI算法的高质量落地
最低要求
熟练掌握C/C++, python语言，熟悉CPU/GPU异构开发，深入理解CUDA编程模型，能独立完成生成类模型的推理加速或性能调优项目
具备 TensorRT/TensorRT-LLM/FasterTransformer/vllm/sglang 等推理引擎深度实践经验，主导过基于上述引擎的大模型推理系统定制化开发与性能调优
精通推理引擎底层优化技术（算子融合、量化策略、动态批处理、KV 缓存优化)
熟悉生成类模型的核心架构（如扩散模型Dit结构），熟悉推理过程中的关键性能卡点
熟悉CPU/GPU异构加速瓶颈分析方法，有服务器端 AI 芯片、GPU加速经验优先
工作职责
核心攻坚多模态模型加速：聚焦图片/视频的编辑、生成类模型加速，主导深度学习云端推理引擎的核心开发与推理效率优化，实现各相关AI算法的高质量落地
蒸馏技术融合应用：结合生成类模型特性，将模型蒸馏技术（如DMD、CM等）融入推理引擎优化方案，在保证质量的前提下，进一步降低推理延迟
AI 洞察
优缺点分析
优点
- 对底层硬件和编译器知识要求极高，需持续跟进快速迭代的AI框架与硬件生态
- 具备深厚计算机体系结构基础，热衷于解决极致性能问题的后端/AI系统工程师
缺点 / 挑战
- 接触业界最前沿的大模型推理技术栈，平台资源丰富，技术挑战性与成长空间大
角色解读
- 可向AI基础设施架构师、高性能计算专家或大模型系统技术负责人方向发展
- 专注于大型AI模型（特别是多模态生成模型）在云端的高效部署与运行加速
- 精通C++/Python及CUDA编程，深入掌握TensorRT、vLLM等主流推理引擎的底层原理与优化技巧
申请策略
- 准备关于如何平衡模型精度与推理速度的技术论述，展现系统性思维
- 突出展示在GPU/CPU异构计算上的具体优化案例，量化性能提升指标（如吞吐量QPS、延迟Latency）
- 深入研究Transformer架构的内存访问模式，掌握最新的量化技术（如INT8/FP8）及KV Cache优化策略
面试指南
- 采用STAR法则（情境、任务、行动、结果）描述项目，重点强调问题分析思路、技术选型依据及最终的性能收益数据
- 请详细描述一次你使用TensorRT或vLLM进行模型加速的经历及遇到的瓶颈
- 如何在保证精度的前提下，对大模型进行量化并优化KV Cache？
- 解释一下CUDA中的内存层级（Shared Memory, Global Memory）及其对性能的影响
- 针对Diffusion模型，有哪些特定的推理加速策略？
- 复习计算机组成原理中关于并行计算的知识，梳理主流推理引擎的代码执行流程
职位点评
薪资福利85
成长发展90
工作生活60
使命价值70
薪资福利
85较高
作为上市巨头企业的核心技术岗，提供具有市场竞争力的薪酬及完善的福利体系。
薪资信号偏高 (3.0千–6.0万/月)
成长发展
90较高
处于AI大模型技术前沿，涉及复杂的底层优化，技术成长路径清晰且极具挑战性。
技术前沿前沿/新兴技术
技术栈C++、Python、CUDA、TensorRT、vLLM、SGlang、FasterTransformer、TensorRT-LLM、大模型推理、算子融合、量化策略、KV缓存优化、扩散模型、Dit结构、DMD、CM
业务类型profit_center
工作生活
60中等
互联网大厂核心研发部门工作节奏较快，虽未明确提及加班情况，但高强度技术攻坚通常伴随一定压力。
工作模式未明确
办公地点市区核心地段
加班情况未提及（无法判断）
使命价值
70中等
致力于推动AI技术在视频编辑与生成领域的落地，提升用户体验，具有一定的行业影响力。
行业发展高速增长赛道
社会影响中性/一般
创新程度积极采用新技术
腾讯视频 的其他在招职位
相似职位推荐
AI开发工程师-智算（郑州）(J14547)
中科曙光 · 郑州市
AI 估算 · 2.0–3.5万30 分钟前发布
AI Business Solutions & Innovation Manager
文华东方酒店 · 香港特别行政区
AI 估算 · 4.5–7.5万1 小时前发布
KERING Principal AI Engineer-Agentic Systems
开云 · 上海市
AI 估算 · 6.0–10.0万1 小时前发布
KERING Applied AI Engineer-Agentic Applications
开云 · 上海市
AI 估算 · 3.0–5.0万1 小时前发布
AI Agent 专家-租车
哈啰出行 · 上海市
AI 估算 · 4.0–7.0万2 小时前发布
software manager（AI tool chain）
瀚纳仕 · 上海市
AI 估算 · 5.0–8.0万2 小时前发布
資料分析與AI演算法工程師
纬创资通 · 新北市
AI 估算 · 6.0–10.0万7 小时前发布
AI Software Applications Engineer
高通 · 台北市
AI 估算 · 7.0–12.0万7 小时前发布
Watch Jobs