寒武纪
AIGC推理框架研发工程师-27届
AIGC推理框架研发工程师-27届
发布于 大约 8 小时前普通员工/个人贡献者
北京市
无经验要求
全职员工
仅现场办公
学历未注明
机器学习工程
Cuda
Diffusion Models
Llm
Pytorch
Tensorrt-Llm
Vllm
分布式推理
性能优化
AI 估算 · 20k–40k
北京AI芯片上市公司，研发核心岗位，技术壁垒高，校招薪资竞争力强，参考同行业水平。
职位详情
关于这个职位
这是一个面向2027届毕业生的校招岗位，你将加入寒武纪的AIGC推理框架团队，专注于LLM和多模态模型的分布式推理系统建设与性能优化
你将深入底层，使用PyTorch/C++/CUDA等技术，解决推理延迟和吞吐量问题，参与行业领先的技术方案
最低要求
计算机、电子工程、自动化、数学、物理等相关专业优先
有PyTorch/C++/Python编程经验
有AI模型的训练/部署经验
了解LLM或者视觉生成模型原理
了解量化、kvcache、多机多卡并行等加速技术
工作职责
参与分布式推理系统建设，提供行业领先的LLM/多模态模型解决方案
针对大语言模型（LLM）、视觉生成（如Diffusion Models）等场景，开展端到端推理性能优化，重点降低推理延迟、提升吞吐量
深度优化推理框架，提升框架在异构硬件上的扩展性与易用性
开发自动化性能分析工具，实现推理瓶颈的快速定位与优化建议生成
优先资格
具备CUDA/BANGC等异构编程经验，有GPU/加速卡调优实践经验
有开源仓库的贡献经验
了解torch.compile/CUDAGraph/Triton
具备以下任意领域的实战经验：* 大模型推理框架：vLLM/SGLang/FasterTransformer/TensorRT-LLM
视觉生成系统：Diffusers/ComfyUI/xDiT
强化学习：verl等
AI 洞察
优缺点分析
优点
- 处于AI芯片和AIGC前沿赛道，技术含量高，个人成长快
- 公司已上市，平台稳定，能接触到行业领先的推理系统解决方案
- 岗位涉及分布式系统、性能优化等核心技能，市场价值高
- 作为校招岗位，竞争激烈，需要扎实的工程实践基础
缺点 / 挑战
- 技术挑战大，需要同时掌握底层硬件、并行计算和模型算法，学习曲线陡峭
- 性能优化工作往往需要反复试验和调试，可能面临较大工作压力
- 适合对AI系统底层优化有强烈兴趣，具备扎实编程能力和深度学习基础，喜欢挑战技术难点的应届生
角色解读
- 从推理优化工程师起步，逐步成长为AI系统架构师或技术专家
- 深入底层硬件与软件协同设计，向芯片软件栈方向纵深发展
- 积累大规模分布式系统经验，可转向大模型基础设施、MLOps等领域
- 参与分布式推理系统的设计与建设，为LLM和多模态模型提供高性能解决方案
- 针对大语言模型和视觉生成模型进行端到端推理性能优化，重点降低延迟、提升吞吐量
- 深度优化推理框架，提升在异构硬件上的扩展性与易用性，并开发自动化性能分析工具
- 扎实的编程能力，熟练使用PyTorch、C++或Python
- 了解LLM或视觉生成模型的基本原理，有AI模型训练或部署经验
- 熟悉量化、KV Cache、多机多卡并行等加速技术，具备性能调优意识
申请策略
- 关注寒武纪的业务方向和技术栈，在面试中展现对AI芯片和推理优化的热情
- 注意笔试环节，提前练习算法和系统设计题，特别是与并行计算相关的问题
- 突出AI模型训练/部署的实践项目，尤其是涉及性能优化的部分
- 强调C++/Python/PyTorch的熟练程度，如有CUDA或加速卡调优经验务必写出
- 展示开源贡献经历或参与过的推理框架项目（如vLLM、TensorRT-LLM等）
- 如有量化、分布式并行相关经验，需明确标注
- 提前学习vLLM、SGLang等主流推理框架的源码和架构
- 补强CUDA编程和GPU性能分析工具（如Nsight、ncu）的使用
面试指南
- 对于技术原理类问题，建议从“问题背景-核心机制-实际应用”的结构回答，先讲清楚概念，再联系项目实践
- 对于优化类问题，可以遵循“瓶颈分析-方案设计-效果验证”的思路，体现系统性思维
- 对于经验类问题，采用STAR法则，突出你在项目中的具体贡献和量化结果
- 请解释LLM推理过程中的主要性能瓶颈，并说明如何优化？
- 描述一下你参与过的AI模型部署项目，遇到的最大挑战是什么？
- 你对KV Cache和量化技术有什么理解？
- 介绍一下你在CUDA或异构编程方面的经验
- 你是否了解vLLM或TensorRT-LLM的原理？它们解决了什么问题？
职位点评
72
综合评分
北京AI芯片大厂核心技术岗，前沿技术栈与成长空间大，薪资未披露，生活方式保障一般。
从起薪待遇、成长路径、工作节奏和岗位方向综合评估，方便比较职业起点。
更适合这类人
适合追求技术深度成长、对AI系统底层优化充满热情，且能接受北京现场办公和未知工作节奏的应届生。
表现最好
成长发展
相对薄弱
工作生活
薪资福利70
成长发展88
工作生活45
使命价值80
薪资福利
70中等
公司为上市公司，稳定性较好，但薪资未披露，具体福利不明，整体薪酬竞争力需以实际offer为准。
薪资信号未披露（AI估算：20K-40K/月）
成长发展
88较高
岗位涉及AIGC推理框架、分布式系统等前沿技术，能接触行业领先方案；公司为AI芯片领域头部企业，技术成长空间大。
技术前沿前沿/新兴技术
技术栈LLM、PyTorch、C++、CUDA、vLLM、分布式推理、TensorRT-LLM
业务类型ambiguous
工作生活
45较低
工作地点在北京，需现场办公，JD未提及弹性工作或远程，也未说明加班情况，生活方式保障有限。
工作模式仅现场办公
办公地点未明确
加班情况未提及（无法判断）
使命价值
80较高
AI芯片和AIGC属于高速增长赛道，岗位对推动行业技术进步有积极作用，虽未明确使命感，但技术影响力较大。
行业发展高速增长赛道
社会影响正向社会影响力较高
创新程度积极采用新技术
寒武纪 的其他在招职位
相似职位推荐
Watch Jobs