海信
端侧大模型算法工程师(J44358)
端侧大模型算法工程师(J44358)
发布于 1 小时前普通员工/个人贡献者
全职员工仅现场办公AI算法
AI算法
Pytorch
多模态
大模型
推理引擎
模型压缩
端侧部署
量化
值不值得投
77综合评分
综合评分 77
前沿端侧大模型技术，高薪稳定平台，技术成长空间大，工作强度适中
从薪资福利、成长发展、工作生活和使命价值四个维度综合评估，方便横向比较。
薪资怎么样
4.8万
比AI算法中位数高
发布情况
新岗位 · 今天发布
公司情况
这家公司招聘很活跃
约 1040 个在招
市场机会
选择适中
深圳 · AI算法 · 26 个在招
职位详情
关于这个职位
负责语言、视觉及多模态大模型在端侧（如手机、车载）的架构设计与优化，解决算力受限与推理延迟痛点
深耕模型压缩加速技术（量化、剪枝等），适配主流推理引擎，提升异构计算效率并推动技术落地
最低要求
学历：硕士及以上学历，计算机科学、电子信息、人工智能、软件工程等相关专业，3年及以上端侧大模型架构优化、模型部署相关工作经验（资深/专家岗5年以上，有大规模端侧落地项目经验者可放宽至本科）
技术基础：精通C/C++/Python编程，熟悉深度学习框架（PyTorch/TensorFlow），深入理解语言、视觉、多模态、全模态模型的核心原理与架构特点，掌握模型训练与推理的全流程
核心能力：具备扎实的端侧模型优化经验，熟练掌握至少2种模型压缩技术（量化、剪枝、蒸馏等），有INT4/INT8量化工程落地经验，熟悉GGUF等端侧友好型模型格式者优先
推理引擎：精通至少一种端侧推理引擎（TensorRT、MNN、ONNX Runtime等），具备推理引擎定制化优化、算子开发经验，了解不同端侧硬件（CPU/GPU/NPU）的架构特性与适配技巧
项目经验：有语言/视觉/多模态大模型端侧部署优化项目经验，参与过亿级/十亿级参数模型的端侧落地（如车载、手机等场景），能独立负责端侧架构优化方案的设计与落地者优先
工作职责
负责语言大模型、视觉大模型、多模态理解模型及全模态模型的端侧架构设计、优化与迭代，主导模型从云端到端侧的适配改造，重点解决端侧算力受限、内存占用高、推理延迟高的核心痛点
深耕端侧模型压缩与加速技术，包括但不限于量化（PTQ/QAT、INT4/INT8）、剪枝、知识蒸馏、算子融合等，设计适配模型的端侧优化方案，在保证模型精度损失可控的前提下，实现极致的性能提升与资源节省，探索分组量化等优化技术的工程落地
负责端侧推理架构优化，适配主流端侧推理引擎（TensorRT、MNN、ONNX Runtime、OpenVINO、RKNN等），优化模型推理链路，包括计算图优化、内存复用、动态形状处理等，提升模型在不同端侧硬件（CPU/GPU/NPU）的异构计算效率
参与多模态、全模态模型的端侧友好型架构设计，优化跨模态特征融合链路，支持流式双工交互等端侧核心场景需求，推动模型能力与端侧部署效率的双重提升
跟踪端侧大模型架构、多模态/全模态技术前沿，结合业务场景开展技术预研与创新，落地可复用的端侧架构优化方案，支撑业务规模化落地
AI 洞察
优缺点分析
优点
- 处于端侧大模型落地的前沿赛道，技术壁垒高，行业需求旺盛
- 依托海信平台，有真实的车载、家电等大规模落地场景
- 端侧算力受限，优化难度大，需要在精度和性能之间做极致平衡
- 需要同时懂算法和底层系统，学习曲线陡峭
- 适合对AI系统优化感兴趣，具备扎实计算机基础和工程能力的算法工程师
缺点 / 挑战
暂无明显挑战项
角色解读
- 可向端侧AI架构师、大模型系统优化专家方向发展，或转向更底层的编译器/算子开发领域
- 将云端训练的大模型（语言、视觉、多模态）进行轻量化和加速，使其能在手机、车载终端等资源受限设备上高效运行
- 精通C++/Python，深入理解Transformer等模型架构，熟练掌握模型压缩（量化、剪枝）和推理引擎（TensorRT/MNN）优化技术
申请策略
- 准备展示端到端的优化Demo，体现从模型选择到最终部署的全链路能力
- 突出端侧模型部署的具体案例，量化性能提升指标（如FPS提升、内存降低比例）
- 强调对特定推理引擎的深度定制经验
- 深入研究GGUF、AWQ等最新量化格式
- 补充NPU/CPU底层指令集优化知识
- 关注端侧大模型最新论文
面试指南
- 使用STAR法则描述项目，重点突出遇到的问题、分析思路、解决方案及最终的性能收益数据
- 请详细介绍你做过的一次端侧模型量化过程，遇到的最大挑战是什么？
- 如何在不损失精度的前提下，最大化INT8量化的效果？
- 对比TensorRT和MNN，它们在端侧部署上的优劣分别是什么？
- 如何处理动态Shape下的内存分配问题？
- 复习模型压缩经典算法原理
- 熟悉常用推理引擎的API和优化手段
- 准备一个完整的端到端优化案例
职位点评
薪资福利80
成长发展90
工作生活60
使命价值70
薪资福利
80较高
作为上市巨头企业的核心技术岗，薪资水平处于市场中上，且提供稳定的职业发展平台。
薪资信号未披露（AI估算：3.5千–6.0万/月）
成长发展
90较高
端侧大模型是极具前景的技术方向，能提供深度的技术成长空间和行业前沿视野。
技术前沿前沿/新兴技术
技术栈大模型、端侧部署、量化、TensorRT、多模态
业务类型profit_center
工作生活
60中等
传统制造业巨头通常工作节奏相对互联网大厂稍缓，但核心研发岗位仍有一定压力，WLB中等。
工作模式未明确
办公地点市区核心地段
加班情况未提及（无法判断）
使命价值
70中等
推动AI技术在消费电子和汽车领域的普及，具有明确的应用价值和社会影响力。
行业发展高速增长赛道
社会影响正向社会影响力较高
创新程度积极采用新技术
海信 的其他在招职位
相似职位推荐
AI Engineer (Supply Demand Management)
苹果 · 上海市
AI 估算 · 6.0–10.0万2 小时前发布
智能座舱AI算法开发工程师-德语方向
联想 · 上海市
AI 估算 · 3.5–6.0万9 小时前发布
Agent Personalization and Memory Evolution
联想 · 北京市
AI 估算 · 5.0–8.0万9 小时前发布
Staff Agent R&D Engineer
联想 · 北京市
AI 估算 · 4.0–7.0万9 小时前发布
Agent Personalization and Memory Evolution
联想 · 北京市
AI 估算 · 4.0–7.0万9 小时前发布
推理架构算法工程师
京东 · 北京市
AI 估算 · 5.0–8.0万9 小时前发布
Senior Consultant Specialist
汇丰 · 西安市
AI 估算 · 2.0–3.5万9 小时前发布
VP, FC Investigative Tooling
汇丰 · 广州市
AI 估算 · 3.5–6.0万9 小时前发布
Watch Jobs