Lenovo logo
联想
Advisory Engineer, On-Device AI Systems & Inference Optimization

Advisory Engineer, On-Device AI Systems & Inference Optimization

发布于 39 分钟前

普通员工/个人贡献者

AI 估算 · 4.0–7.0万 · AI 参考估算
中级经验
硕士
全职员工仅现场办公AI算法
AI算法
Cuda/Tensorrt
Edge Ai
Llm Inference
Model Quantization

值不值得投

80综合评分

综合评分 80

前沿端侧AI技术、高薪资潜力、技术成长极快,工作强度视项目周期而定

从薪资福利、成长发展、工作生活和使命价值四个维度综合评估,方便横向比较。

薪资怎么样

5.5万

比AI算法中位数高

发布情况

新岗位 · 今天发布

公司情况

这家公司招聘很活跃

约 360 个在招 · 其中AI算法 10 个

市场机会

选择面较广

北京 · AI算法 · 约 230 个在招

职位详情

关于这个职位

负责端侧AI模型的全链路部署与推理优化,涵盖模型转换、量化、编译及运行时接入

针对CPU/GPU/NPU异构计算环境进行性能剖析与瓶颈定位,落地FP4/INT4量化、投机解码等算法优化,平衡精度与时延,解决资源受限下的工程问题

最低要求

硕士及以上学历,人工智能、计算机科学、电子信息技术等相关专业

具备扎实的软硬件联合优化能力,理解CPU/GPU/NPU微架构、指令集、算子库、内存层次与异构调度机制,能够通过编译优化、算子优化、运行时优化和调度策略的协同设计最大化硬件算力
具备端侧AI推理部署和系统优化经验,熟悉C++/Python,具备较强工程落地能力
熟悉至少一种推理/编译/运行时链路,如ONNX Runtime、llama.cpp、TensorRT、OpenVINO、TVM、或自研推理运行时等
熟悉量化、图优化、算子优化、内存优化、异构调度、性能剖析工具中的多个方向
理解端侧OS与硬件约束,能在Windows/Linux/Android等环境完成部署与调优
具备跨团队协作和工程问题攻坚能力

工作职责

负责端侧模型部署全链路:模型转换、量化、编译、运行时接入、算子适配、内存管理、版本兼容与灰度发布

面向CPU/GPU/NPU异构计算和Windows/Linux/Android等端侧环境,进行性能剖析、瓶颈定位和推理优化
落地token routing、device-cloud task orchestration、多模态低时延推理、隐私保护个性化等系统能力
落地FP4/INT4 QAT、speculative decoding、on-policy distillation等算法优化,保证精度、时延、吞吐、内存和稳定性平衡
对齐Agentic OS框架指标,建设性能回归、稳定性监控和工程最佳实践
解决端侧资源受限、功耗/热、兼容性、异常降级等工程问题,推动问题闭环

AI 洞察

优缺点分析

优点

  • 处于AI端侧化(On-Device AI)的前沿赛道,技术壁垒高,个人贡献对用户体验提升直接可见
  • 依托联想全球硬件平台,拥有丰富的测试设备和落地场景
  • 端侧资源(算力、内存、功耗)极度受限,优化难度极大,需要在精度和性能之间做复杂的权衡
  • 适合热爱底层系统优化、对AI落地有强烈兴趣、具备极强工程能力和抗压能力的资深工程师

缺点 / 挑战

  • 需同时兼顾多种操作系统和硬件平台,兼容性挑战大

角色解读

  • 可向端侧AI系统架构师、AI编译器专家或边缘计算技术负责人方向发展,成为软硬结合领域的顶尖专家
  • 专注于将大型AI模型(如LLM)高效部署到手机、PC等终端设备上
  • 需要精通C++/Python,深入理解GPU/CPU/NPU硬件架构,掌握模型量化、编译优化及推理加速技术

申请策略

  • 强调你的‘软硬结合’能力,不仅懂算法原理,更能深入到底层驱动和汇编层面进行优化
  • 突出展示在模型压缩(量化/剪枝)、推理引擎优化(如TensorRT/TVM定制)、以及异构计算性能调优方面的具体项目成果,用数据(如延迟降低%、内存节省MB)说话
  • 深入研究LLM推理最新技术(如Speculative Decoding, PagedAttention),熟悉主流端侧NPU SDK(如Qualcomm SNPE, MediaTek APU)

面试指南

  • 使用STAR法则(情境、任务、行动、结果)描述项目
  • 重点阐述‘问题定位->方案选型->细节实现->效果评估’的完整闭环,体现对底层原理的理解
  • 请详细介绍你做过的一次模型量化或编译优化经历,遇到了什么瓶颈?如何解决的?
  • 在资源受限的端侧设备上,如何平衡LLM推理的延迟、吞吐量和显存占用?
  • 对比TensorRT和OpenVINO,它们在算子融合和内存管理上的差异是什么?
  • 如何处理端侧不同硬件(CPU/GPU/NPU)之间的任务调度与负载均衡?
  • 复习计算机体系结构(缓存一致性、流水线、SIMD指令集),重温深度学习编译原理(IR表示、算子融合、自动微分),准备1-2个深度优化的案例

职位点评

薪资福利85
成长发展92
工作生活60
使命价值75

薪资福利

85较高

作为上市巨头企业的高端技术岗,薪资竞争力强,福利体系完善,符合市场对高级专家的薪酬预期。

薪资信号未披露(AI估算:4.0千–7.0万/月)

成长发展

92较高

岗位涉及端侧AI最前沿的技术栈(LLM On-Device),技术成长空间巨大,能积累极具市场竞争力的硬核技能。

技术前沿前沿/新兴技术
技术栈LLM、Quantization、TensorRT、NPU、C++、Inference Optimization
业务类型profit_center

工作生活

60中等

传统制造业巨头通常工作节奏相对互联网大厂略稳,但核心技术攻关期可能面临高强度压力,JD未明确提及弹性工作制。

工作模式未明确
办公地点市区核心地段
加班情况未提及(无法判断)

使命价值

75中等

致力于让AI更普及、更隐私安全地服务于普通用户,推动端侧智能生态发展,具有较好的行业社会价值。

行业发展高速增长赛道
社会影响正向社会影响力较高
使命信号隐私保护个性化
创新程度积极采用新技术
Watch Jobs