腾讯
AI infra研发工程师(北京/深圳)
AI infra研发工程师(北京/深圳)
发布于 2 小时前普通员工/个人贡献者
全职员工仅现场办公机器学习工程
机器学习工程
Aigc
Deepspeed
Gpu
Llm
Megatron
Pytorch
Sglang
Simd
Vllm
值不值得投
78综合评分
综合评分 78
核心AI底层框架研发岗，技术栈前沿且极具挑战，成长空间大，薪资竞争力强，但WLB未明确。
从薪资福利、成长发展、工作生活和使命价值四个维度综合评估，方便横向比较。
薪资怎么样
5万
比机器学习工程中位数高
发布情况
新岗位 · 今天发布
公司情况
这家公司招聘很活跃
约 2010 个在招 · 其中机器学习工程 39 个
市场机会
选择面较广
北京 · 机器学习工程 · 约 470 个在招
职位详情
关于这个职位
该职位主要负责基于自研芯片研发高性能AI推理与训练框架，解决芯片落地的全链路技术问题
你需要结合硬件特性与AI模型特点，持续优化框架性能与易用性，参与构建自研芯片的软件生态
最低要求
熟悉Linux开发环境，掌握Python/C++等语言，具备良好的编程基础以及系统设计能力
熟悉GPU或SIMD编程体系架构，了解LLM、AIGC等模型结构，能够使用nvpro、nsys等profiler工具
精通主流训练推理框架和加速技术，包括但不限于：Pytorch、Megatron、DeepSpeed、VLLM、Sglang等
具有系统性分析模型性能瓶颈的能力，熟悉从算子调用，到模型训练推理，再到结果返回的功能定义和具体逻辑
具备良好的技术热情和责任感，优秀的分析解决问题能力、良好的团队意识和沟通能力
工作职责
基于自研芯片，研发高性能推理与训练框架，解决芯片落地过程中的全链路问题
能根据硬件特性和AI模型特点，不断迭代和完善框架性能和易用性、持续提升推理模型整网性能，和业务一起构建自研芯片软件生态
AI 洞察
优缺点分析
优点
- 深入AI底层核心技术，接触自研芯片与前沿大模型，技术壁垒高，个人核心竞争力强
- 依托头部互联网平台，能参与超大规模算力集群与真实业务场景的落地
- 底层框架与芯片适配技术难度大，需要持续跟进快速迭代的AI模型与硬件架构
- 性能优化工作往往需要深入细节，排查问题耗时较长，对系统性思维要求极高
- 适合对底层系统、硬件架构与AI框架有浓厚兴趣，具备扎实C++功底和极致性能优化追求的技术极客
缺点 / 挑战
暂无明显挑战项
角色解读
- 可向AI Infra技术专家、架构师方向发展，深入底层软硬件协同优化
- 也可转型为AI系统团队技术负责人，主导大规模算力集群与框架的演进
- 负责基于自研芯片的高性能AI推理与训练框架研发，解决芯片落地的全链路技术问题
- 结合硬件特性与模型特点，持续优化框架性能与易用性，构建自研芯片软件生态
- 扎实的C++/Python编程与Linux系统开发能力，熟悉GPU/SIMD底层架构
- 精通PyTorch、DeepSpeed、vLLM等主流训练推理框架，具备模型性能瓶颈的系统性分析与调优能力
申请策略
- 了解腾讯自研芯片的最新进展及软件生态布局，面试时可结合自研硬件特性提出优化思路
- 突出在GPU/SIMD编程、算子优化或主流推理框架（如vLLM、TensorRT）方面的实际项目经验
- 展示解决复杂模型性能瓶颈的具体案例及量化收益（如吞吐量提升、延迟降低）
- 深入学习Megatron、DeepSpeed等分布式训练框架的底层原理，熟悉最新大模型推理加速技术
- 掌握CUDA编程基础及主流深度学习框架的底层执行逻辑
面试指南
- 采用STAR法则，先描述遇到的性能瓶颈现象，再阐述使用profiler工具定位问题的过程，最后说明具体的优化策略（如算子融合、内存复用、并行策略）及最终的性能提升指标
- 请详细描述你如何定位并解决一个复杂的模型推理性能瓶颈？
- 在GPU/SIMD编程中，你是如何进行内存管理和计算优化的？
- 对比vLLM和Sglang，它们在架构设计和性能优化上有什么异同？
- 如果自研芯片的某些算子支持不如NVIDIA完善，你会如何从框架层面进行弥补和优化？
- 复习CUDA编程基础、主流深度学习框架的底层执行逻辑，以及大模型分布式训练/推理的核心算法
- 准备1-2个自己主导的深度性能优化项目案例，重点突出排查思路和量化结果
职位点评
薪资福利85
成长发展90
工作生活50
使命价值80
薪资福利
85较高
核心AI底层技术岗，技术门槛高，薪资水平在市场中具备较强竞争力，但JD未明确披露具体薪资与福利细节。
薪资信号未披露（AI估算：3.5千–6.5万/月）
成长发展
90较高
岗位涉及自研芯片与前沿大模型框架，技术栈极具前瞻性与挑战性，能极大提升在AI Infra领域的硬核技术实力。
技术前沿前沿/新兴技术
技术栈Python、C++、GPU、SIMD、LLM、AIGC、PyTorch、Megatron、DeepSpeed、VLLM、Sglang
业务类型ambiguous
工作生活
50较低
JD未提及工作模式与加班情况，但底层框架研发与性能调优通常面临较高的技术攻坚压力，WLB情况无法明确判断。
工作模式未明确
办公地点市区核心地段
加班情况未提及（无法判断）
使命价值
80较高
参与自研芯片软件生态建设，打破底层算力垄断，具有较高的技术使命感与行业价值。
行业发展高速增长赛道
社会影响正向社会影响力较高
创新程度积极采用新技术
Watch Jobs