Desay SV logo
德赛西威
AI推理引擎开发工程师(2027届-上海)

AI推理引擎开发工程师(2027届-上海)

发布于 1 天前

普通员工/个人贡献者

AI 估算 · 2.5–4.0万 · AI 参考估算
无经验要求
硕士
全职员工仅现场办公AI算法
AI算法
Cuda
Hvx
Llama.Cpp
Npu
Sglang
Tensorrt
Vllm
端侧大模型推理加速

值不值得投

77综合评分

综合评分 77

前沿端侧大模型推理引擎校招岗,技术成长强,薪资与WLB信息未披露

从薪资福利、成长发展、工作生活和使命价值四个维度综合评估,方便比较职业起点。

薪资怎么样

3.3万

比AI算法中位数高

发布情况

新岗位 · 昨天发布

公司情况

这家公司招聘很活跃

约 130 个在招 · 其中AI算法 8 个

市场机会

选择面较广

上海 · AI算法 · 约 160 个在招

职位详情

关于这个职位

该岗位面向2027届硕士及以上毕业生,聚焦端侧AI推理引擎研发,负责大模型在车载及嵌入式平台的高效部署与性能优化

你将参与Qwen、DeepSeek、Llama等模型的推理加速,使用TensorRT、vLLM、llama.cpp、SGLang、CUDA等技术提升速度、降低延时和资源占用

最低要求

硕士及以上学历,计算机、人工智能、电子信息、自动化、软件工程等相关专业,基础理论扎实

精通C/C++、Python编程语言,深入理解计算机体系结构,熟悉CPU、GPU、NPU硬件特性,具备跨平台推理调度与计算加速开发能力
熟悉TensorRT、vLLM、llama.cpp、SGLang等至少一种推理引擎底层原理,具备推理引擎定制开发、改造优化实战经验
熟练掌握大模型端侧推理加速核心技术,熟悉INT4/INT8量化、KV Cache优化、动态批处理、投机采样等主流优化方案
具备扎实的CUDA编程与GPU性能优化能力,了解DSP(HVX)、NPU开发技术者优先
具备优秀的工程实践、问题攻坚与技术沉淀能力,学习能力强,善于跟进端侧大模型前沿技术,具备良好的团队协作与技术落地推进能力

工作职责

主导端侧AI推理引擎的架构设计与研发开发工作,支撑各类深度学习模型、大模型在嵌入式及车载端侧平台的高效落地部署

负责Qwen、DeepSeek、Llama等主流大模型的端侧全链路推理加速优化,落地量化压缩、算子加速、投机采样、动态批处理、运行时调度等核心加速技术
深入研究TensorRT、vLLM、llama.cpp、SGLang等主流推理引擎底层机制,结合业务需求完成框架二次开发、定制改造与性能专项优化
基于CUDA、HVX等硬件加速能力,完成异构计算资源的统筹调度与深度榨取,持续提升端侧大模型推理速度、降低延时与显存占用
输出标准化的推理引擎架构设计文档、性能分析报告、端侧部署方案,保障引擎迭代规范、可落地、可复用

优先资格

了解DSP(HVX)、NPU开发技术者优先

AI 洞察

优缺点分析

优点

  • 岗位聚焦端侧大模型推理引擎,属于AI工程化与车载智能化结合的高技术含量方向
  • 能接触TensorRT、vLLM、llama.cpp、SGLang、CUDA等主流技术栈,有利于积累底层系统优化能力
  • 面向2027届校招,对优秀硕士候选人而言,有机会较早参与核心技术研发与落地
  • 工作内容覆盖架构设计、性能优化和部署方案,技术沉淀较完整
  • 技术栈跨度大,既要求软件工程能力,也要求理解GPU、NPU、DSP等异构硬件
  • 大模型推理技术迭代快,需要持续跟进新模型、新框架和新硬件能力
  • 适合计算机、人工智能、电子信息等相关专业的硕士候选人,尤其是喜欢底层系统、性能优化和大模型工程落地的人

缺点 / 挑战

  • 端侧资源受限,推理速度、延时、显存占用等指标优化难度较高

角色解读

  • 初期可从推理引擎模块开发、性能分析和模型部署入手,逐步承担核心加速模块设计与优化
  • 中期可向端侧AI平台架构师、异构计算优化专家或大模型系统工程师方向发展
  • 长期可拓展到车载AI基础平台、智能座舱算法工程化、端云协同推理架构等高价值方向
  • 负责端侧AI推理引擎的架构设计和研发,让深度学习模型与大模型能够在嵌入式、车载平台稳定运行
  • 围绕Qwen、DeepSeek、Llama等模型做全链路推理加速,包括量化压缩、算子优化、投机采样、动态批处理和运行时调度
  • 基于TensorRT、vLLM、llama.cpp、SGLang等框架进行底层机制研究、二次开发和性能专项优化
  • 结合CUDA、HVX、NPU等硬件能力,优化推理速度、延时和显存占用,并输出架构设计、性能分析和部署方案
  • 需要扎实的C/C++、Python编程能力,并理解计算机体系结构和CPU、GPU、NPU等硬件特性
  • 需要掌握至少一种主流推理引擎的底层原理,并具备定制开发、改造优化或性能调优经验
  • 需要熟悉INT4/INT8量化、KV Cache优化、动态批处理、投机采样等大模型推理加速技术
  • 需要具备CUDA编程、GPU性能优化能力,了解DSP(HVX)、NPU开发会更有竞争力

申请策略

  • 申请前了解德赛西威在智能座舱、车载计算和端侧AI方面的业务方向,准备与车载场景结合的思考
  • 面试中尽量用数据表达优化成果,例如延时降低、吞吐提升、显存减少或资源占用改善
  • 突出与C/C++、Python相关的高质量项目,尤其是涉及性能优化、系统开发或底层模块实现的内容
  • 重点展示使用TensorRT、vLLM、llama.cpp、SGLang、CUDA等工具的经验,包括具体优化目标和结果
  • 如果有量化、KV Cache、动态批处理、投机采样、算子优化等项目经历,应单独展开说明
  • 强调问题攻坚、性能分析、工程落地和团队协作经历,体现从方案设计到结果验证的完整能力
  • 提前准备一个端侧或本地大模型推理优化项目,能够讲清楚模型部署、瓶颈定位和优化路径
  • 补强CUDA编程、GPU性能分析、INT4/INT8量化和KV Cache优化等核心知识

面试指南

  • 项目类问题按“背景—目标—瓶颈—方案—结果—复盘”的结构回答,重点说明自己承担的具体工作
  • 技术原理类问题先讲核心机制,再结合端侧资源受限、实时性要求和工程实现难点展开
  • 性能优化类问题按“指标定义— profiling—瓶颈定位—优化手段—验证结果”的路径回答,体现系统性
  • 请介绍一个你参与过的推理加速或性能优化项目,你负责了哪些模块?
  • TensorRT、vLLM、llama.cpp、SGLang中你最熟悉哪一个?它的核心执行流程是什么?
  • INT4/INT8量化对模型精度和推理性能分别有什么影响?工程上如何权衡?
  • KV Cache、动态批处理和投机采样分别解决什么问题?在端侧场景有哪些限制?
  • 如果大模型在车载端侧平台推理延时过高,你会如何定位瓶颈并优化?

职位点评

薪资福利78
成长发展92
工作生活50
使命价值76

薪资福利

78中等

JD未披露薪资和福利信息,但岗位面向高门槛技术方向,且为2027届校招正式岗位。补偿性动机满足度主要依赖后续沟通确认。

薪资信号未披露(AI估算:2.5千–4.0万/月)

成长发展

92较高

岗位明确涉及端侧大模型推理引擎、主流推理框架底层机制、CUDA与异构计算优化,技术深度和成长空间突出。JD还提到技术沉淀和跟进前沿技术,发展性动机匹配度高。

技术前沿前沿/新兴技术
技术栈端侧AI推理引擎、Qwen、DeepSeek、Llama、TensorRT、vLLM、llama.cpp、SGLang、CUDA、HVX、NPU、INT4/INT8量化、KV Cache优化、动态批处理、投机采样
成长机会技术沉淀、跟进端侧大模型前沿技术
业务类型ambiguous

工作生活

50较低

JD仅明确地点为上海,未提及远程、弹性办公、双休或加班情况,因此生活化动机无法充分判断。

工作模式未明确
办公地点未明确
加班情况未提及(无法判断)

使命价值

76中等

岗位服务于深度学习模型和大模型在嵌入式及车载端侧平台的高效落地,具备较强的技术应用价值。JD未直接描述社会使命或行业价值导向,意义感主要来自端侧AI落地和车载智能化方向。

行业发展高速增长赛道
社会影响中性/一般
创新程度积极采用新技术
Watch Jobs