
联想
Advisory Engineer, On-Device AI Systems & Inference Optimization
Advisory Engineer, On-Device AI Systems & Inference Optimization
发布于 39 分钟前普通员工/个人贡献者
全职员工仅现场办公AI算法
AI算法
Cuda/Tensorrt
Edge Ai
Llm Inference
Model Quantization
值不值得投
80综合评分
综合评分 80
前沿端侧AI技术、高薪资潜力、技术成长极快,工作强度视项目周期而定
从薪资福利、成长发展、工作生活和使命价值四个维度综合评估,方便横向比较。
薪资怎么样
5.5万
比AI算法中位数高
发布情况
新岗位 · 今天发布
公司情况
这家公司招聘很活跃
约 360 个在招 · 其中AI算法 10 个
市场机会
选择面较广
北京 · AI算法 · 约 230 个在招
职位详情
关于这个职位
负责端侧AI模型的全链路部署与推理优化,涵盖模型转换、量化、编译及运行时接入
针对CPU/GPU/NPU异构计算环境进行性能剖析与瓶颈定位,落地FP4/INT4量化、投机解码等算法优化,平衡精度与时延,解决资源受限下的工程问题
最低要求
硕士及以上学历,人工智能、计算机科学、电子信息技术等相关专业
具备扎实的软硬件联合优化能力,理解CPU/GPU/NPU微架构、指令集、算子库、内存层次与异构调度机制,能够通过编译优化、算子优化、运行时优化和调度策略的协同设计最大化硬件算力
具备端侧AI推理部署和系统优化经验,熟悉C++/Python,具备较强工程落地能力
熟悉至少一种推理/编译/运行时链路,如ONNX Runtime、llama.cpp、TensorRT、OpenVINO、TVM、或自研推理运行时等
熟悉量化、图优化、算子优化、内存优化、异构调度、性能剖析工具中的多个方向
理解端侧OS与硬件约束,能在Windows/Linux/Android等环境完成部署与调优
具备跨团队协作和工程问题攻坚能力
工作职责
负责端侧模型部署全链路:模型转换、量化、编译、运行时接入、算子适配、内存管理、版本兼容与灰度发布
面向CPU/GPU/NPU异构计算和Windows/Linux/Android等端侧环境,进行性能剖析、瓶颈定位和推理优化
落地token routing、device-cloud task orchestration、多模态低时延推理、隐私保护个性化等系统能力
落地FP4/INT4 QAT、speculative decoding、on-policy distillation等算法优化,保证精度、时延、吞吐、内存和稳定性平衡
对齐Agentic OS框架指标,建设性能回归、稳定性监控和工程最佳实践
解决端侧资源受限、功耗/热、兼容性、异常降级等工程问题,推动问题闭环
AI 洞察
优缺点分析
优点
- 处于AI端侧化(On-Device AI)的前沿赛道,技术壁垒高,个人贡献对用户体验提升直接可见
- 依托联想全球硬件平台,拥有丰富的测试设备和落地场景
- 端侧资源(算力、内存、功耗)极度受限,优化难度极大,需要在精度和性能之间做复杂的权衡
- 适合热爱底层系统优化、对AI落地有强烈兴趣、具备极强工程能力和抗压能力的资深工程师
缺点 / 挑战
- 需同时兼顾多种操作系统和硬件平台,兼容性挑战大
角色解读
- 可向端侧AI系统架构师、AI编译器专家或边缘计算技术负责人方向发展,成为软硬结合领域的顶尖专家
- 专注于将大型AI模型(如LLM)高效部署到手机、PC等终端设备上
- 需要精通C++/Python,深入理解GPU/CPU/NPU硬件架构,掌握模型量化、编译优化及推理加速技术
申请策略
- 强调你的‘软硬结合’能力,不仅懂算法原理,更能深入到底层驱动和汇编层面进行优化
- 突出展示在模型压缩(量化/剪枝)、推理引擎优化(如TensorRT/TVM定制)、以及异构计算性能调优方面的具体项目成果,用数据(如延迟降低%、内存节省MB)说话
- 深入研究LLM推理最新技术(如Speculative Decoding, PagedAttention),熟悉主流端侧NPU SDK(如Qualcomm SNPE, MediaTek APU)
面试指南
- 使用STAR法则(情境、任务、行动、结果)描述项目
- 重点阐述‘问题定位->方案选型->细节实现->效果评估’的完整闭环,体现对底层原理的理解
- 请详细介绍你做过的一次模型量化或编译优化经历,遇到了什么瓶颈?如何解决的?
- 在资源受限的端侧设备上,如何平衡LLM推理的延迟、吞吐量和显存占用?
- 对比TensorRT和OpenVINO,它们在算子融合和内存管理上的差异是什么?
- 如何处理端侧不同硬件(CPU/GPU/NPU)之间的任务调度与负载均衡?
- 复习计算机体系结构(缓存一致性、流水线、SIMD指令集),重温深度学习编译原理(IR表示、算子融合、自动微分),准备1-2个深度优化的案例
职位点评
薪资福利85
成长发展92
工作生活60
使命价值75
薪资福利
85较高
作为上市巨头企业的高端技术岗,薪资竞争力强,福利体系完善,符合市场对高级专家的薪酬预期。
薪资信号未披露(AI估算:4.0千–7.0万/月)
成长发展
92较高
岗位涉及端侧AI最前沿的技术栈(LLM On-Device),技术成长空间巨大,能积累极具市场竞争力的硬核技能。
技术前沿前沿/新兴技术
技术栈LLM、Quantization、TensorRT、NPU、C++、Inference Optimization
业务类型profit_center
工作生活
60中等
传统制造业巨头通常工作节奏相对互联网大厂略稳,但核心技术攻关期可能面临高强度压力,JD未明确提及弹性工作制。
工作模式未明确
办公地点市区核心地段
加班情况未提及(无法判断)
使命价值
75中等
致力于让AI更普及、更隐私安全地服务于普通用户,推动端侧智能生态发展,具有较好的行业社会价值。
行业发展高速增长赛道
社会影响正向社会影响力较高
使命信号隐私保护个性化
创新程度积极采用新技术
联想 的其他在招职位
相似职位推荐
Industrial Engineering ES
德科斯米尔 · 沈阳市
AI 估算 · 1.8–3.0万1 小时前发布
数据技术及产品部-大模型评测算法工程师-杭州/北京
阿里巴巴 · 杭州市
AI 估算 · 3.0–6.0万1 小时前发布
AI Infra实习生-推理方向(研究型)
阿里巴巴 · 北京市
AI 估算 · 4.0–7.0千1 小时前发布
ATH-AI创新事业部-Qoder Cloud Agent研发工程师-Agent Infra方向
阿里巴巴 · 杭州市
AI 估算 · 3.5–6.0万1 小时前发布
算法实习生-大模型应用方向-搜索召回
阿里巴巴 · 北京市
AI 估算 · 0.3–0.4千1 小时前发布
AI Software Development Engineer
超威半导体 · 台北市
AI 估算 · 12.0–20.0万1 小时前发布
AllSpark-多模态人机交互Agent 算法研究员
小红书 · 北京市
AI 估算 · 4.0–7.0万3 小时前发布
首页
苏宁 · 南京市
AI 估算 · 1.2–2.0万3 小时前发布
Watch Jobs