腾讯
AI infra研发工程师(北京/深圳)
AI infra研发工程师(北京/深圳)
发布于 2 小时前普通员工/个人贡献者
全职员工仅现场办公高性能计算
高性能计算
Aigc
Deepspeed
Gpu
Llm
Megatron
Pytorch
Sglang
Simd
Vllm
值不值得投
80综合评分
综合评分 80
腾讯核心AI Infra岗，聚焦自研芯片与大模型底层框架，技术壁垒极高、发展前景广阔，但攻坚压力较大。
从薪资福利、成长发展、工作生活和使命价值四个维度综合评估，方便横向比较。
薪资怎么样
3.8万
比高性能计算中位数高
发布情况
新岗位 · 今天发布
公司情况
这家公司招聘很活跃
约 2010 个在招
市场机会
选择不多
深圳 · 高性能计算 · 4 个在招
职位详情
关于这个职位
该职位主要负责基于腾讯自研芯片研发高性能的AI推理与训练框架，解决芯片落地全链路问题
你需要结合硬件特性与AI模型特点，持续优化框架性能与易用性，并参与构建自研芯片的软件生态
最低要求
熟悉Linux开发环境，掌握Python/C++等语言，具备良好的编程基础以及系统设计能力
熟悉GPU或SIMD编程体系架构，了解LLM、AIGC等模型结构，能够使用nvpro、nsys等profiler工具
精通主流训练推理框架和加速技术，包括但不限于：Pytorch、Megatron、DeepSpeed、VLLM、Sglang等
具有系统性分析模型性能瓶颈的能力，熟悉从算子调用，到模型训练推理，再到结果返回的功能定义和具体逻辑
具备良好的技术热情和责任感，优秀的分析解决问题能力、良好的团队意识和沟通能力
工作职责
基于自研芯片，研发高性能推理与训练框架，解决芯片落地过程中的全链路问题
能根据硬件特性和AI模型特点，不断迭代和完善框架性能和易用性、持续提升推理模型整网性能，和业务一起构建自研芯片软件生态
AI 洞察
优缺点分析
优点
- 深入大模型底层算力与自研芯片生态，技术壁垒极高，属于行业稀缺的底层系统级人才
- 平台大、技术视野广阔，有利于积累顶尖的系统级优化与软硬件协同经验
- 技术栈深且广，需要同时具备底层硬件、系统软件与AI算法的跨领域知识，学习曲线陡峭
- 适合对底层系统、算力优化有浓厚兴趣，具备扎实C++功底和AI框架使用经验，且渴望在AI基础设施领域深耕的技术极客
缺点 / 挑战
- 依托腾讯海量业务场景与庞大算力资源，能接触到业界最前沿的AI Infra实战挑战
- 自研芯片生态处于建设与攻坚期，可能面临较多未知问题和较高的底层技术攻坚压力
角色解读
- 纵向可成长为AI Infra领域的技术专家或架构师，主导底层算力框架演进与自研芯片生态建设
- 横向可向AI系统架构、芯片软硬件协同设计或AI核心业务落地负责人方向发展
- 基于自研芯片开发高性能AI推理与训练框架，打通芯片落地的全链路技术环节
- 结合硬件特性与AI模型结构，持续优化框架性能、易用性及整网推理速度
- 协同业务团队构建并完善自研芯片的软件生态，支撑上层AI业务的高效运行
- 扎实的C++/Python编程功底及Linux系统开发能力，具备良好的系统设计思维
- 深入理解GPU/SIMD架构及LLM/AIGC模型原理，熟练使用nsys等底层性能分析工具
- 精通PyTorch、Megatron、DeepSpeed、vLLM等主流AI训练与推理框架及其加速技术
申请策略
- 提前了解腾讯自研芯片（如紫霄）的公开技术文档或相关论文，展现对业务的关注
- 准备好过往项目中“从发现瓶颈到解决瓶颈”的完整Story，体现系统性思维
- 突出在PyTorch、vLLM等框架上的二次开发、源码阅读或深度定制经验
- 展示GPU/SIMD编程、算子优化及模型推理加速的具体项目成果与量化的性能提升数据
- 强调解决复杂系统性能瓶颈的系统性分析能力与全链路排查经验
- 深入学习CUDA编程及底层硬件架构，掌握nsys/nvprof等性能分析工具的高级用法
- 研读Megatron、DeepSpeed等分布式训练框架源码，理解其底层通信与显存优化机制
面试指南
- STAR法则：针对性能优化问题，按照“背景(模型/硬件)->任务(目标指标)->行动( profiling/算子重写/框架调整)->结果(性能提升数据)”展开
- 结构化拆解：面对系统级问题，从“硬件层、算子层、框架层、系统调度层”自底向上或自顶向下进行拆解分析
- 请详细描述你使用vLLM或DeepSpeed进行推理/训练加速时，遇到的最大性能瓶颈及解决过程
- 在GPU架构下，如何优化一个计算密集型算子的性能？请结合具体例子说明
- 如果模型推理时显存占用过高且延迟不达标，你会从哪些维度进行系统性排查和优化？
- 谈谈你对当前主流大模型推理框架（如vLLM、SGLang）底层核心机制（如PagedAttention）的理解
- 复习CUDA编程基础及GPU内存层级结构，准备1-2个自己手写的算子优化案例
- 深入阅读vLLM/SGLang的核心源码或技术博客，理解其在KV Cache管理和调度上的创新点
职位点评
薪资福利85
成长发展95
工作生活50
使命价值85
薪资福利
85较高
腾讯作为头部互联网企业，AI Infra属于核心高薪技术岗，薪资福利具备较强市场竞争力。
薪资信号未披露（AI估算：2.5千–5万/月）
成长发展
95较高
岗位聚焦自研芯片与前沿大模型底层框架，技术极具前瞻性与挑战性，能极大提升个人在AI系统底层的核心竞争力。
技术前沿前沿/新兴技术
技术栈Python、C++、GPU、SIMD、LLM、AIGC、Pytorch、Megatron、DeepSpeed、VLLM、Sglang
业务类型ambiguous
工作生活
50较低
JD未提及工作模式与加班情况，但AI底层研发通常面临较高的项目交付压力，WLB情况无法明确判断。
工作模式未明确
办公地点科技园/产业园
加班情况未提及（无法判断）
使命价值
85较高
参与自研芯片软件生态建设，打破底层算力瓶颈，对国内AI基础设施的自主可控具有较高的行业价值与使命感。
行业发展高速增长赛道
社会影响正向社会影响力较高
创新程度开拓性创新（行业首创）
Watch Jobs