黑芝麻
AI模型推理部署及性能优化工程师(J10877)
AI模型推理部署及性能优化工程师(J10877)
发布于 6 小时前普通员工/个人贡献者
全职员工仅现场办公算法优化工程师
算法优化工程师
Onnx Runtime
Tensorrt
大模型
异构计算
性能优化
自动驾驶
量化
值不值得投
80综合评分
综合评分 80
前沿技术栈、薪资中上、成长性强，但WLB可能一般。
从薪资福利、成长空间、工作节奏和岗位方向综合评估，方便横向比较。
薪资怎么样
25K
与算法优化工程师中位数基本持平
发布情况
新岗位 · 今天发布
公司情况
这家公司招聘很活跃
24 个在招 · 其中算法优化工程师 4 个
市场机会
选择适中
深圳 · 算法优化工程师 · 37 个在招
职位详情
关于这个职位
这个职位负责自动驾驶感知模型和大模型在多种异构计算平台（如Orin、地平线、高通等）上的端到端推理部署与性能优化
你需要提供部署方案设计、精度校准、性能瓶颈分析，并跟踪前沿技术构建高价值参考设计，确保模型在资源受限场景下满足延迟、吞吐与功耗要求
最低要求
计算机、人工智能、电子工程或相关专业本科及以上学历
熟练掌握主流推理引擎（如 ONNX Runtime、TensorRT、OpenVINO、ArmNN、TVM、MNN 等），具备实际项目部署经验
深入理解模型压缩技术，包括量化（PTQ/QAT）、剪枝、知识蒸馏等，并能在实际场景中灵活组合应用
具备模型精度调优能力，能通过敏感层分析、校准策略调整、Loss-aware量化等手段系统性恢复或提升精度
熟悉性能分析工具（如Nsight Systems、perf、vtune、芯片厂商Profiling工具等），能深入分析从算子调度、内存访问到硬件执行的全链路瓶颈
熟悉主流神经网络架构（CNN、Transformer、LSTM、Diffusion、Mamba 等），了解其计算特性与优化空间
具备扎实的Python/C++编程能力，良好的工程规范与问题拆解能力
工作职责
负责自动驾驶感知模型及大模型在异构计算平台（如Orin、地平线、高通、昇腾、Arm等）上的端到端推理部署与性能优化
面向客户或内部团队，提供模型部署方案设计、精度校准、性能瓶颈分析及调优建议，确保模型在资源受限场景下满足延迟、吞吐与功耗要求
跟踪业界前沿模型架构（如ViT、BEVFormer、Llama、Qwen等）与部署技术，构建高价值的模型参考设计（Reference Design）与最佳实践文档
协同工具链团队，参与自动化部署流水线、量化工具、Profiling平台的开发与迭代，提升整体部署效率与易用性
搭建并维护标准化Benchmark体系，支持多芯片、多框架、多模型的横向性能评估
优先资格
加分项：
了解AI编译器原理（如MLIR、TVM、Glow）或AI加速器微架构（如NPU数据流、内存带宽限制、算子融合策略）
有GPU/NPU/DSP算子开发或优化经验，熟悉CUDA、OpenCL、厂商自定义算子接口
有Benchmark构建经验，熟悉MLPerf、DAWNBench或自建评测体系
熟悉或曾使用/开发过 PPQ、Bolt、AIMET、NNCF 等量化框架，能基于开源工具进行二次开发与定制
有自动驾驶、机器人、边缘AI或大模型端侧部署项目落地经验者优先
AI 洞察
优缺点分析
优点
- 技术栈前沿，涉及自动驾驶和大模型等热门领域，技能积累价值高
- 公司已上市，平台稳定，资源支持充足
- 工作内容直接面向核心产品，成果可见性强
- 技术难度高，需持续学习新技术和应对复杂优化问题
- 性能优化可能面临高压交付需求，需平衡精度与效率
- 异构平台多样，需快速适应不同硬件环境
缺点 / 挑战
- 适合对AI部署和性能优化有浓厚兴趣，具备扎实工程能力且喜欢解决技术挑战的求职者
角色解读
- 可晋升为AI系统架构师或技术专家，专注于高性能计算优化
- 向算法研究或产品开发方向扩展，参与自动驾驶等前沿项目
- 积累行业经验后，可转向技术管理或创业
- 负责自动驾驶感知模型和大模型在异构计算平台上的推理部署，确保高效运行
- 提供模型部署方案、精度调优和性能瓶颈分析，满足延迟、吞吐与功耗要求
- 跟踪前沿AI模型与技术，构建参考设计和最佳实践文档
- 参与开发自动化部署工具链和Benchmark体系，提升整体效率
- 精通主流推理引擎（如TensorRT、ONNX Runtime）和模型压缩技术（量化、剪枝）
- 熟悉性能分析工具（如Nsight Systems）和神经网络架构，能分析全链路瓶颈
- 具备扎实的Python/C++编程能力和工程问题拆解能力
- 了解AI编译器或加速器微架构者更具优势
申请策略
- 研究黑芝麻智能的业务方向，了解其自动驾驶产品与技术栈
- 准备相关项目案例，尤其注重解决实际工程问题的过程
- 突出推理部署项目经验，展示在异构平台上的优化成果（如延迟降低、吞吐提升）
- 详细描述量化、剪枝等模型压缩技术的应用案例
- 列举性能分析工具的使用经验和Benchmark构建经历
- 强调Python/C++编程能力及代码规范
- 深入学习最新推理引擎（如TensorRT 8.x）和量化框架（如AIMET）
- 练习使用性能分析工具（如Nsight Systems）进行全链路 profiling
面试指南
- 使用STAR法则（情境、任务、行动、结果）结构化描述项目经验
- 结合具体技术细节（如算子融合、内存访问优化）展示深度思考
- 强调团队协作和工具链开发经验，体现工程化能力
- 如何优化一个Transformer模型在Orin平台上的推理性能？
- 请解释PTQ（训练后量化）和QAT（量化感知训练）的区别及适用场景
- 如果模型精度在量化后下降明显，你会采取哪些恢复策略？
- 如何设计一个多芯片、多模型的Benchmark评估体系？
- 描述一次你解决复杂性能瓶颈的经历
职位点评
薪资福利85
成长发展90
工作生活60
使命价值80
薪资福利
85较高
公司已上市且为大型企业，薪资福利体系可能较为完善，对补偿性动机有较好满足。
薪资信号市场水准 (1.5–3.5万/月)
成长发展
90较高
职位涉及前沿AI技术（如自动驾驶、大模型），提供丰富的技能成长和行业接触机会，发展性动机满足程度高。
技术前沿前沿/新兴技术
技术栈ONNX Runtime、TensorRT、量化、性能优化、Python、C++、自动驾驶、大模型、异构计算
业务类型profit_center
工作生活
60中等
JD未明确办公模式和工作生活平衡信息，生活化动机满足程度有限，需实际确认。
工作模式未明确
办公地点未明确
加班情况未提及（无法判断）
使命价值
80较高
岗位在自动驾驶和AI前沿领域，具有较高的技术价值和社会影响力，意义感动机较好。
行业发展高速增长赛道
社会影响正向社会影响力较高
创新程度积极采用新技术
Watch Jobs