腾讯
腾讯视频云大模型推理加速工程师
腾讯视频云大模型推理加速工程师
发布于 38 分钟前普通员工/个人贡献者
全职员工仅现场办公AI算法
AI算法
Cuda
Gpu异构计算
Tensorrt
Vllm
大模型推理
模型加速
值不值得投
75综合评分
综合评分 75
顶尖大厂核心AI技术岗，技术前沿性强，薪资高，但工作强度大
从薪资福利、成长发展、工作生活和使命价值四个维度综合评估，方便横向比较。
薪资怎么样
4.8万
比AI算法中位数高
发布情况
新岗位 · 今天发布
公司情况
这家公司招聘很活跃
约 1860 个在招 · 其中AI算法 7 个
市场机会
选择适中
深圳 · AI算法 · 26 个在招
职位详情
关于这个职位
负责腾讯后台大模型推理加速，主导多模态（图片/视频）生成类模型的云端推理引擎开发与效率优化
结合蒸馏技术降低延迟，精通CUDA及TensorRT等底层优化，确保AI算法高质量落地
最低要求
熟练掌握C/C++, python语言，熟悉CPU/GPU异构开发，深入理解CUDA编程模型，能独立完成生成类模型的推理加速或性能调优项目
具备 TensorRT/TensorRT-LLM/FasterTransformer/vllm/sglang 等推理引擎深度实践经验，主导过基于上述引擎的大模型推理系统定制化开发与性能调优
精通推理引擎底层优化技术（算子融合、量化策略、动态批处理、KV 缓存优化)
熟悉生成类模型的核心架构（如扩散模型Dit结构），熟悉推理过程中的关键性能卡点
熟悉CPU/GPU异构加速瓶颈分析方法，有服务器端 AI 芯片、GPU加速经验优先
工作职责
核心攻坚多模态模型加速：聚焦图片/视频的编辑、生成类模型加速，主导深度学习云端推理引擎的核心开发与推理效率优化，实现各相关AI算法的高质量落地
蒸馏技术融合应用：结合生成类模型特性，将模型蒸馏技术（如DMD、CM等）融入推理引擎优化方案，在保证质量的前提下，进一步降低推理延迟
AI 洞察
优缺点分析
优点
- 接触业界最前沿的大模型推理技术，拥有顶级的算力资源和数据支持，技术成长空间巨大
- 对底层系统优化有浓厚兴趣，具备扎实编程基础和数学物理基础的资深工程师
缺点 / 挑战
- 技术门槛极高，需要深厚的计算机体系结构和并行计算功底，工作压力较大，需持续跟进最新技术
角色解读
- 可向AI基础设施架构师、高性能计算专家方向发展，或在生成式AI领域深耕成为核心技术骨干
- 专注于大型AI模型（特别是多模态生成模型）在云端的推理加速与性能优化
- 精通C++/Python，深入掌握CUDA编程，熟练使用TensorRT、vLLM等主流推理引擎进行底层优化
申请策略
- 准备详细的技术案例，说明如何解决复杂的性能瓶颈问题，展现系统性思维
- 突出展示在GPU/CPU异构计算、推理引擎优化方面的具体项目成果，量化性能提升指标
- 深入研究Transformer架构细节，掌握最新的量化技术和分布式推理框架
面试指南
- 使用STAR法则（情境、任务、行动、结果）详细描述技术难题的解决过程，重点突出技术手段的选择依据和最终的性能收益
- 请描述一次你通过CUDA优化显著提升模型推理速度的经历
- 如何平衡模型蒸馏过程中的精度损失与推理速度提升？
- 谈谈你对KV Cache优化的理解及其在实际应用中的挑战
- 复习计算机体系结构知识，熟悉常见AI框架的底层实现原理，了解行业内的最新优化论文
职位点评
薪资福利85
成长发展90
工作生活40
使命价值70
薪资福利
85较高
作为上市巨头企业的高级技术岗位，提供具有竞争力的薪酬和完善的福利体系，满足度高。
薪资信号未披露（AI估算：3.5千–6.0万/月）
成长发展
90较高
涉及前沿的大模型推理加速技术，技术栈先进，个人技能成长路径清晰且极具挑战性。
技术前沿前沿/新兴技术
技术栈C++、Python、CUDA、TensorRT、vLLM、大模型推理、模型加速、GPU异构计算
业务类型profit_center
工作生活
40较低
互联网大厂核心研发岗位通常工作强度较大，WLB相对一般，但公司提供较好的办公环境。
工作模式未明确
办公地点市区核心地段
加班情况JD含高强度暗示词
使命价值
70中等
推动AI技术在多模态领域的落地应用，具有较高的社会价值和技术影响力。
行业发展高速增长赛道
社会影响正向社会影响力较高
创新程度积极采用新技术
腾讯 的其他在招职位
相似职位推荐
Sr. Associate Director, Software Engineering Specialist
汇丰 · 上海市
AI 估算 · 4.5–7.5万1 小时前发布
Industrial Engineering ES
德科斯米尔 · 沈阳市
AI 估算 · 2.0–3.5万1 小时前发布
大模型算法工程师
滴滴出行 · 北京市
AI 估算 · 4.0–7.0万1 小时前发布
大模型应用开发工程师
阿里巴巴 · 杭州市
AI 估算 · 3.0–6.0万2 小时前发布
淘工厂技术-AI 应用开发工程师-托管方向
阿里巴巴 · 杭州市
AI 估算 · 2.5–4.5万2 小时前发布
社会招聘-校园招聘
汇顶科技 · 成都市
AI 估算 · 3.0–6.0万2 小时前发布
【社区专项】Personal Agent开发工程师
小红书 · 北京市
AI 估算 · 3.0–5.0万3 小时前发布
AI应用工程师-Agent方向
万华化学 · 烟台市
AI 估算 · 2.0–3.5万3 小时前发布
Watch Jobs