地平线
AI 模型部署优化工程师
AI 模型部署优化工程师
发布于 大约 16 小时前普通员工/个人贡献者
北京市 / 南京市
中级经验
全职员工
仅现场办公
本科
机器学习工程
Ai模型部署
Llm
Npu
Tensorrt
Vllm
推理引擎
模型量化
算子开发
编译器
AI 估算 · 25k–45k
AI芯片赛道景气，部署优化岗位技术门槛高，一线城市薪资竞争力强，结合大厂水平估算。
职位详情
关于这个职位
本职位专注于AI模型在地平线自研芯片上的部署与优化，涉及推理引擎、模型量化、编译器及算子开发等核心技术方向
你将负责从模型到芯片的端侧落地，解决性能瓶颈，推动LLM、端到端模型及VLA在边缘设备的实际应用
适合对AI底层技术有热情、喜欢挑战性能极限的工程师
最低要求
计算机、自动化、电子信息、人工智能、软件工程等相关专业，本科及以上学历
年及以上 AI 模型部署、推理引擎、模型编译或量化算法一线开发经验
熟练使用 C/C++、Python 开发，具备扎实的 Linux 平台开发、调试、性能 profiling 能力
熟悉神经网络基础结构，了解典型业务场景（包括不限于 LLM，端到端，VLA 等）的模型结构、算子实现、内存和性能优化基础逻辑
工作职责
岗位职责
基于地平线自研芯片，完成 AI 工具链、端侧推理引擎的研发、迭代与性能调优落地
聚焦AI 模型（包括不限于LLM，端到端，VLA）端侧部署落地、模型量化算法研发、推理框架定制优化、AI 模型编译器开发、算子开发等模型部署核心方向，负责对应模块需求设计、编码实现、问题定位与性能瓶颈优化
优先资格
有地平线 BPU 芯片、边缘端 NPU 芯片模型部署适配实战经验
具备模型量化（INT8/FP16 / 混合精度量化、PTQ/QAT 量化）算法自研与落地经验
有 Triton、vLLM、TensorRT、TVM等推理框架 / AI 编译框架二次开发、定制改造经验
有大模型轻量化、KV Cache 优化、动态推理、批处理调度等大模型部署优化经验
熟悉算子编译、图优化、算子融合、内存复用、硬件指令调度等底层性能优化手段
AI 洞察
优缺点分析
优点
- 公司（地平线）是自动驾驶AI芯片头部企业，平台资源丰富，技术影响力大
- 岗位涉及全栈优化，从算法到硬件，技术深度和广度都能得到提升
- 薪资待遇在行业中具有竞争力，且多地可选（北京、南京、上海）
- 技术复杂度高，需要同时掌握算法、编译、硬件底层知识，学习曲线陡峭
- 芯片平台迭代快，需要不断跟进新技术，对持续学习要求高
缺点 / 挑战
- 技术前沿，有机会接触LLM、VLA等最新模型在边缘端的部署挑战，积累稀缺经验
- 工作强度可能较大，面临性能调优的长期压力，需要较强的抗压能力
- 适合对AI底层技术有强烈兴趣、喜欢挑战性能极限、愿意深耕系统软件栈的工程师
角色解读
- 可以从模型部署工程师成长为AI系统架构师，负责整体推理系统设计与优化
- 深入芯片与算法的交叉领域，成为AI芯片软件栈的核心专家，推动硬件与软件协同设计
- 随着端侧AI普及，可转向自动驾驶、机器人等热门应用领域，或晋升为技术团队负责人
- 负责AI模型在地平线自研芯片（BPU）上的部署，包括工具链和端侧推理引擎的研发与迭代
- 针对LLM、端到端模型、VLA等模型进行量化、编译、算子优化与性能调优，解决实际部署中的瓶颈
- 参与推理框架的定制开发与优化，如TensorRT、TVM、vLLM等二次开发，提升模型运行效率
- 与算法团队协作，理解模型结构，设计内存和计算优化方案，确保产品落地
- 扎实的C/C++和Python编程能力，熟悉Linux环境和性能分析工具
- 深度学习基础，了解常见网络结构和算子实现，熟悉模型优化技术（量化、剪枝、编译等）
- 有AI推理引擎或编译器开发经验，熟悉至少一种主流框架（如TensorRT、TVM、vLLM）
- 熟悉NPU或GPU架构，具备硬件指令调度和底层优化能力者优先
申请策略
- 投递时附上个人技术博客或开源贡献，展示对AI部署领域的热情
- 关注地平线在自动驾驶和机器人领域的业务布局，在面试中体现对行业趋势的理解
- 突出AI模型部署或推理引擎的项目经验，尤其是量化和编译优化相关成果
- 详细描述使用C/C++和Python进行性能调优的具体案例，如加速比、内存优化等
- 如果有NPU或GPU部署经历，或参与过开源框架（如TVM、TensorRT）开发，务必明确标注
- 强调对LLM、VLA等新型模型部署的理解，如KV Cache优化、动态批处理等
- 提前熟悉地平线BPU架构和工具链（如地平线OpenExplorer），可从官方文档和社区入手
- 系统学习模型量化知识，掌握PTQ/QAT方法，并实践INT8量化
面试指南
- 使用STAR法则回答问题：情境-任务-行动-结果，突出具体数据
- 对于技术问题，先讲原理，再讲实践，结合自己的项目经验，提出权衡方案
- 对开放性设计问题，展示系统思考能力：从模型、算子、内存、硬件多维度分析
- 请介绍你做过的一个AI模型部署项目，遇到的主要性能瓶颈是什么？如何优化？
- 谈谈你对模型量化的理解，PTQ和QAT各有什么优缺点？在实际项目如何选择？
- 如何优化一个Transformer模型在特定硬件上的推理速度？可以具体到算子层面
- 你熟悉哪些推理框架？能比较一下TensorRT和TVM的设计异同吗？
- 如果我们有一个新的NPU架构，你会如何设计从模型到芯片的部署流程？
职位点评
73
综合评分
AI芯片头部公司，前沿部署技术栈，薪资有竞争力，但WLB不明确。
从薪资福利、成长空间、工作节奏和岗位方向综合评估，方便横向比较。
更适合这类人
适合追求技术深度、渴望在AI底层软件领域快速成长，且对工作生活平衡没有特别硬性要求的工程师。
表现最好
成长发展
相对薄弱
工作生活
薪资福利70
成长发展85
工作生活65
使命价值70
薪资福利
70中等
该职位薪资水平未明确披露，但公司已上市且处于高薪行业，预计综合待遇较好，福利需在面试中确认。
薪资信号未披露（AI估算：25K-45K/月）
成长发展
85较高
职位涉及AI部署前沿技术，技能成长空间极大，公司平台和专业方向均有良好的发展前景。
技术前沿前沿/新兴技术
技术栈C++、Python、LLM、量化、推理引擎、编译器、NPU、TensorRT、vLLM、TVM
业务类型ambiguous
工作生活
65中等
工作地点为一二线城市，但JD未提及远程或弹性工作，无法确认WLB情况，推测以现场办公为主。
工作模式仅现场办公
办公地点未明确
加班情况未提及（无法判断）
使命价值
70中等
AI芯片行业处于高速增长赛道，工作对推动边缘智能有一定社会价值，但具体使命导向不明确。
行业发展高速增长赛道
社会影响中性/一般
创新程度积极采用新技术
地平线 的其他在招职位
相似职位推荐
Watch Jobs