腾讯
混元推理算子开发工程师
混元推理算子开发工程师
发布于 2 小时前普通员工/个人贡献者
全职员工仅现场办公AI算法
AI算法
Cuda
Pytorch
Tensorrt
Vllm
大模型推理
异构计算
算子优化
值不值得投
75综合评分
综合评分 75
大厂核心AI技术岗，前沿技术栈，高薪高成长，但工作强度可能较大
从薪资福利、成长发展、工作生活和使命价值四个维度综合评估，方便横向比较。
薪资怎么样
4.8万
比AI算法中位数高
发布情况
新岗位 · 今天发布
公司情况
这家公司招聘很活跃
约 1850 个在招 · 其中AI算法 2 个
市场机会
选择不多
北京 · AI算法 · 10 个在招
职位详情
关于这个职位
负责腾讯混元大模型推理算子的设计、开发与深度优化，涵盖Transformer系列及卷积等关键算子
针对CPU/GPU/NPU异构硬件平台进行性能调优，参与推理引擎架构设计，通过算子融合、量化等技术提升模型推理的并发度与资源利用率，保障系统稳定性
最低要求
本科及以上学历，计算机科学、电子工程、软件工程等相关专业
精通 C/C++/CUDA 编程，深入理解计算机体系结构（CPU/GPU 缓存、指令集、并行计算原理），具备扎实的算法与数据结构基础
熟悉至少一种主流深度学习框架（PyTorch/TensorFlow/MXNet）的底层算子实现机制，有大模型（LLaMA、GPT、BERT 等）推理优化经验者优先
掌握至少一种异构硬件平台的算子开发与优化技巧：GPU方向需精通CUDA、TensorRT、cuDNN/cuBLAS及kernel调优
CPU方向需熟悉SIMD指令集、OpenMP及BLAS/LAPACK优化
NPU方向有昇腾/寒武纪经验者优先
熟悉大模型推理关键技术，如量化、稀疏化、算子融合、动态批处理及推理加速框架（vLLM、TensorRT-LLM、Triton）等，有相关项目落地经验者优先
具备良好的问题分析与解决能力，较强的沟通协作与技术攻坚能力，对新技术有强烈的探索欲
工作职责
负责核心推理算子的设计、开发与优化，涵盖 Transformer 系列（Attention、FeedForward 等）、卷积、池化等关键算子，支撑模型端到端推理性能提升
针对 CPU（x86/ARM）、GPU（CUDA/TensorRT）、NPU 等异构硬件平台，进行算子适配与深度优化，解决计算效率、内存占用、 latency 等核心问题
参与推理引擎架构设计，优化算子调度策略、内存管理机制，提升模型推理的并发度与资源利用率
调研业界前沿推理优化技术（如算子融合、量化压缩、稀疏化、动态批处理等），并落地到实际产品中，持续迭代优化推理性能
与模型算法团队、工程架构团队紧密协作，理解模型特性与业务场景需求，提供高效、稳定的推理算子解决方案
负责算子性能测试、问题定位与调优，输出性能报告，保障推理系统的稳定性与可靠性
AI 洞察
优缺点分析
优点
- 接触业界最前沿的大模型推理技术，技术含金量极高
- 依托腾讯平台，拥有海量数据和算力资源支持
- 技术门槛高，需要深厚的计算机体系结构和并行计算功底
- 对底层系统优化有浓厚兴趣，具备扎实计算机基础和大模型落地经验的资深工程师
缺点 / 挑战
- 工作强度可能较大，需应对高性能优化的压力
角色解读
- 可向首席科学家、技术专家方向发展，或在AI基础设施领域成为行业顶尖人才
- 专注于大模型推理引擎的核心算子开发，使用C++/CUDA等技术栈进行底层性能优化
- 精通C++/CUDA编程，深入理解计算机体系结构，熟悉主流深度学习框架底层机制及异构硬件优化
申请策略
- 准备详细的技术案例，说明如何解决复杂的性能瓶颈问题，体现技术攻坚能力
- 突出大模型推理优化项目经验，展示具体的性能提升数据（如延迟降低百分比、吞吐量提升倍数）
- 深入研究TensorRT、vLLM等主流推理框架源码，强化CUDA Kernel调优实战能力
面试指南
- 采用STAR法则（情境、任务、行动、结果）详细描述技术难题的解决过程，重点突出量化指标和优化思路
- 请描述一次你优化CUDA Kernel的经历，具体提升了多少性能？
- 如何在大模型推理中平衡精度与速度？
- 解释一下算子融合的原理及其优势
- 面对多卡并行推理，如何解决通信瓶颈？
- 复习计算机体系结构基础知识，梳理大模型推理关键技术点，准备2-3个深入的技术案例
职位点评
薪资福利85
成长发展90
工作生活40
使命价值70
薪资福利
85较高
作为上市巨头企业的核心技术岗，薪资水平处于市场高位，福利体系完善，满足度高。
薪资信号未披露（AI估算：3.5千–6.0万/月）
成长发展
90较高
涉及大模型推理这一前沿技术领域，能接触到业界最先进的优化技术和硬件平台，成长空间巨大。
技术前沿前沿/新兴技术
技术栈C++、CUDA、TensorRT、PyTorch、大模型推理、算子优化、vLLM、INT8/INT4量化
业务类型profit_center
工作生活
40较低
互联网大厂核心技术岗通常工作节奏较快，JD未提及弹性工作制或WLB相关福利，可能存在较高工作强度。
工作模式未明确
办公地点市区核心地段
加班情况未提及（无法判断）
使命价值
70中等
通过优化大模型推理性能，间接推动AI技术的普及和应用，具有一定的社会价值和技术使命感。
行业发展高速增长赛道
社会影响正向社会影响力较高
创新程度积极采用新技术
Watch Jobs