寒武纪
AIGC推理框架研发工程师-27届
AIGC推理框架研发工程师-27届
发布于 6 小时前普通员工/个人贡献者
全职员工仅现场办公人工智能
人工智能
Cuda
Llm推理
Pytorch
Tensorrt-Llm
Vllm
分布式系统
异构计算
性能优化
值不值得投
78综合评分
综合评分 78
前沿AI推理框架研发、技术成长空间大、北京海淀园区办公、WLB待确认
从薪资福利、成长发展、工作生活和使命价值四个维度综合评估，方便比较职业起点。
薪资怎么样
2.8万
比人工智能中位数高
发布情况
新岗位 · 今天发布
公司情况
这家公司招聘很活跃
约 110 个在招 · 其中人工智能 2 个
市场机会
选择面较广
北京 · 人工智能 · 约 680 个在招
职位详情
关于这个职位
面向2027届毕业生，负责分布式大模型与多模态推理系统的研发与性能优化
主要工作包括构建行业领先的LLM解决方案，针对视觉生成等场景进行端到端推理加速（降低延迟、提升吞吐量），深度优化异构硬件推理框架，并开发自动化性能分析工具以快速定位瓶颈
最低要求
计算机、电子工程、自动化、数学、物理等相关专业优先
有PyTorch/C++/Python编程经验
有AI模型的训练/部署经验
了解LLM或者视觉生成模型原理
了解量化、kvcache、多机多卡并行等加速技术
工作职责
参与分布式推理系统建设，提供行业领先的LLM/多模态模型解决方案
针对大语言模型（LLM）、视觉生成（如Diffusion Models）等场景，开展端到端推理性能优化，重点降低推理延迟、提升吞吐量
深度优化推理框架，提升框架在异构硬件上的扩展性与易用性
开发自动化性能分析工具，实现推理瓶颈的快速定位与优化建议生成
优先资格
具备CUDA/BANGC等异构编程经验，有GPU/加速卡调优实践经验
有开源仓库的贡献经验
了解torch.compile/CUDAGraph/Triton
具备以下任意领域的实战经验
大模型推理框架：vLLM/SGLang/FasterTransformer/TensorRT-LLM
视觉生成系统：Diffusers/ComfyUI/xDiT
强化学习：verl等
AI 洞察
优缺点分析
优点
- 聚焦AIGC最前沿的推理加速赛道，技术壁垒高且行业需求旺盛
- 依托自研芯片平台，能积累稀缺的异构计算与底层优化经验，简历含金量高
- 直面头部大模型厂商合作场景，技术视野开阔
- 涉及底层硬件交互与复杂并行策略，调试难度大且对计算机体系结构基础要求极高
- 适合计算机/电子相关专业背景，对底层系统优化感兴趣，具备较强自学能力与抗压能力的应届生或初级开发者
缺点 / 挑战
- 笔试环节严格，需扎实的理论功底与高频代码输出能力，竞争压力较大
角色解读
- 向AI基础设施架构师或高性能计算专家方向深耕，主导核心框架设计
- 逐步承担跨团队技术攻关职责，拓展至模型训练与部署全链路优化
- 负责大模型与多模态AI系统的推理框架开发与维护，支撑上层应用落地
- 针对特定硬件平台进行底层性能调优与加速，解决延迟与吞吐瓶颈
- 搭建自动化性能分析工具链，提升研发迭代效率与问题排查速度
- 精通C++/Python及PyTorch生态，具备扎实的算法实现与工程落地能力
- 掌握LLM架构原理及KV Cache、张量并行等主流加速技术
- 熟悉CUDA/BANGC等异构编程规范，能够进行GPU/NPU级别的显存与算力调优
申请策略
- 提前准备笔试，重点复习操作系统、计算机网络、编译原理及分布式系统基础
- 关注公司官网最新芯片架构动态，面试时可结合自研硬件特性阐述优化思路
- 突出AI模型部署实战项目，详细列出使用的推理框架、加速技术及性能提升数据
- 强调C++/Python编程能力及开源贡献记录，展示代码规范与协作意识
- 深入研读vLLM或TensorRT-LLM源码，动手复现KV Cache优化或PagedAttention机制
- 补充CUDA编程与内存管理相关知识，掌握算子融合与Kernel调优技巧
面试指南
- 采用“原理阐述+公式/图示辅助+实际案例/性能对比”的结构，先讲清核心概念
- 结合具体业务场景说明权衡取舍，最后用基准测试数据验证效果
- 遇到开放性问题时，主动提出备选方案并分析优劣，展现系统化思维
- 请简述LLM推理中KV Cache的作用及优化方法
- 如何设计一个支持多机多卡并行的推理调度器？
- CUDA编程中如何实现高效的内存访问优化？
- 梳理过往AI部署项目，准备STAR法则回答模板，量化个人贡献
- 复习计算机底层基础教材，模拟手撕分布式通信或算子融合代码
职位点评
薪资福利75
成长发展90
工作生活60
使命价值80
薪资福利
75中等
北京AI芯片企业校招薪资具备市场竞争力，但JD未明确具体福利细节，整体补偿性动机满足度良好。
薪资信号未披露（AI估算：2.0千–3.5万/月）
成长发展
90较高
岗位直接对接大模型推理框架与异构硬件调优，技术栈前沿且成长空间广阔，高度契合发展性动机。
技术前沿前沿/新兴技术
技术栈PyTorch、C++、Python、CUDA、BANGC、vLLM、TensorRT-LLM、KV Cache
业务类型profit_center
工作生活
60中等
芯片研发企业通常节奏较快，JD未提及弹性办公或加班政策，生活化动机满足度中等。
工作模式未明确
办公地点科技园/产业园
加班情况未提及（无法判断）
使命价值
80较高
投身国产AI算力底座建设，推动大模型高效落地应用，具有显著的行业价值与技术使命感。
行业发展高速增长赛道
社会影响正向社会影响力较高
创新程度积极采用新技术
寒武纪 的其他在招职位
相似职位推荐
Watch Jobs