黑芝麻
AI模型推理部署及性能优化工程师(J10645)
AI模型推理部署及性能优化工程师(J10645)
发布于 12 小时前普通员工/个人贡献者
全职员工仅现场办公机器学习工程
机器学习工程
Ai编译器
Pytorch
大模型
异构计算
性能优化
模型压缩
模型部署
自动驾驶
值不值得投
79综合评分
综合评分 79
技术驱动、前景广阔的自动驾驶AI部署优化岗，成长性强，但需适应高强度协作和快速迭代。
从薪资福利、成长空间、工作节奏和岗位方向综合评估，方便横向比较。
薪资怎么样
2.5万
比机器学习工程中位数低
发布情况
新岗位 · 昨天发布
公司情况
这家公司招聘很活跃
24 个在招
市场机会
选择面较广
上海 · 机器学习工程 · 约 370 个在招
职位详情
关于这个职位
负责自动驾驶、机器人及大模型算法在公司自研芯片平台上的推理部署与性能优化工作
核心是确保AI模型能在端侧硬件上高效运行，兼顾性能与精度，并支持内外部客户需求
最低要求
计算机/数学/电子等相关专业，硕士及以上学历，1年以上工作经验
熟练掌握Python/C++/Shell等开发语言，熟悉Linux开发环境
熟悉Pytorch等深度学习框架，熟悉深度学习相关知识，有模型结构优化相关经验
熟悉端侧异构芯片架构，熟练使用AI编译器，熟悉常见模型压缩技术（量化、剪枝等）者优先
熟悉端侧LLM/VLM/VLA性能优化及部署技术，有实践经验者优先
具备优秀的分析问题和解决问题的能力，良好的团队协作和沟通能力
工作职责
负责自动驾驶，机器人及大模型等算法在自研异构计算平台的部署工作
负责模型结构优化及训练，模型部署，端侧性能优化及精度调优
跟踪业内最新的智驾及机器人领域解决方案，在自研芯片平台完成部署
支持内外部客户模型的部署
优先资格
熟悉端侧异构芯片架构，熟练使用AI编译器，熟悉常见模型压缩技术（量化、剪枝等）
熟悉端侧LLM/VLM/VLA性能优化及部署技术，有实践经验
AI 洞察
优缺点分析
优点
- 处于自动驾驶和AI芯片的前沿交叉领域，技术含量高，成长空间大
- 直接参与公司核心自研平台的打造，能深入理解软硬件协同优化
- 行业处于高速发展期，对这类复合型人才需求迫切，职业前景好
- 技术迭代速度极快，需要持续学习和跟踪芯片架构、模型结构的最新动态
- 性能优化工作要求极致，可能需要在功耗、延迟、精度等多目标间进行复杂权衡
- 需要同时理解算法、软件和硬件，对综合技术能力要求很高
- 对AI模型在底层硬件上的高效运行充满热情，兼具扎实的算法功底和工程实现能力，并愿意深入软硬件协同领域的工程师
缺点 / 挑战
暂无明显挑战项
角色解读
- 技术专家路线：在模型部署与芯片优化领域深耕，成为该领域的首席专家或架构师
- 技术管理路线：带领团队负责整个AI计算平台或特定产品线的部署与性能达标
- 前沿探索路线：参与下一代芯片架构与AI算法协同设计，定义软硬件协同优化的标准
- 将自动驾驶、机器人等复杂AI算法部署到公司自研的特定硬件芯片上，使其能够实际运行
- 对AI模型进行结构调整、压缩和优化，确保在端侧设备上实现高性能和低功耗
- 持续跟踪行业最新的算法和技术方案，并快速在自己的芯片平台上实现适配和部署
- 对接内外部客户，解决他们模型在部署和运行中遇到的具体技术问题
- 精通模型部署与优化技术，包括量化、剪枝、编译优化等，熟悉PyTorch等主流框架
- 具备扎实的编程功底，尤其是Python和C++，并熟练使用Linux环境进行开发调试
- 深刻理解深度学习原理，并对自动驾驶或大模型领域有一定认知
- 有较强的分析和解决问题的能力，能够独立应对端侧部署中的复杂性能挑战
申请策略
- 仔细研究黑芝麻智能的芯片产品线和技术博客，了解其技术路线和优势，在面试中体现你做过功课
- 准备一个你主导的、有挑战性的模型部署优化案例，能清晰地阐述问题、思路、方案和结果
- 关注自动驾驶和AI芯片行业动态，能就最新技术趋势发表自己的见解
- 突出在模型压缩（量化、剪枝）和推理加速方面的具体项目经验及成果（如推理速度提升百分比、模型大小缩减比例）
- 强调在Linux环境下使用C++/Python进行性能调优、异构计算（如使用OpenCL/CUDA）或AI编译器相关经验
- 展示对自动驾驶、大模型（LLM/VLM）领域算法原理的理解，以及将它们部署到实际芯片上的实践案例
- 列举相关的论文发表、技术博客或开源项目贡献，以证明技术深度和热情
- 深入学习主流AI芯片（如NVIDIA TensorRT, AMD ROCm, 以及各种NPU）的架构特点和编程模型
面试指南
- 使用STAR法则（情境-任务-行动-结果）结构化地讲述你的项目经验，重点突出你的分析和解决问题的能力
- 回答技术问题时，先阐述基本原理，再结合实际工程经验说明应用中的权衡和陷阱（如精度损失、耗时计算）
- 展现系统化思维，从数据、模型、算子、编译、硬件等多个层面去分析问题，而不仅仅停留在单一层面
- 请介绍一个你完成的、最有挑战性的模型部署优化项目
- 你是如何定位性能瓶颈并解决的？
- 请解释一下模型量化（如INT8量化）的基本原理和在实际部署中需要注意哪些问题？
- 你如何评估一个模型在端侧芯片上的性能？主要看哪些指标？
- 如果你发现一个模型在芯片上运行延迟很高，你会如何进行分析和优化？
职位点评
薪资福利78
成长发展92
工作生活60
使命价值85
薪资福利
78中等
该职位属于高需求的技术岗位，薪资范围在市场中具有竞争力，结合公司规模，整体薪酬福利保障较好。
薪资信号未披露（AI估算：1.8千–3.2万/月）
成长发展
92较高
职位要求接触自动驾驶、大模型等前沿技术，并在自研芯片平台上进行实践，技术成长路径非常清晰且有深度。
技术前沿前沿/新兴技术
技术栈模型部署、性能优化、异构计算、AI编译器、模型压缩、自动驾驶、大模型、PyTorch
业务类型profit_center
工作生活
60中等
职位描述未明确提及工作模式、远程安排或WLB相关信息。作为研发岗位，通常需要现场协作，灵活性可能有限。
工作模式未明确
办公地点科技园/产业园
加班情况未提及（无法判断）
使命价值
85较高
投身于自动驾驶这一旨在提升交通安全与效率的领域，通过优化AI在芯片上的运行，直接推动智能产品的落地，具有较强的技术使命感。
行业发展高速增长赛道
社会影响正向社会影响力较高
创新程度积极采用新技术
Watch Jobs