
联想
Advisory Engineer, On-Device AI Systems & Inference Optimization
Advisory Engineer, On-Device AI Systems & Inference Optimization
发布于 2 小时前普通员工/个人贡献者
全职员工仅现场办公性能优化
性能优化
Onnx Runtime
Tensorrt
Tvm
异构计算
推理优化
端侧Ai
量化
值不值得投
74综合评分
综合评分 74
前沿端侧AI推理优化岗,技术深度高、成长性强,办公与生活节奏信息不明确
从薪资福利、成长发展、工作生活和使命价值四个维度综合评估,方便横向比较。
薪资怎么样
5.0万
比性能优化中位数高
发布情况
新岗位 · 今天发布
公司情况
这家公司招聘很活跃
约 370 个在招
市场机会
选择不多
北京 · 性能优化 · 9 个在招
职位详情
关于这个职位
该职位聚焦端侧 AI 系统与推理优化,负责模型从转换、量化、编译到运行时接入和灰度发布的全链路落地
你将在 CPU/GPU/NPU 异构硬件及 Windows/Linux/Android 环境中做性能剖析、瓶颈定位与推理加速,并平衡精度、时延、吞吐、内存和稳定性
最低要求
硕士及以上学历,人工智能、计算机科学、电子信息技术等相关专业
具备扎实的软硬件联合优化能力,理解 CPU/GPU/NPU 微架构、指令集、算子库、内存层次与异构调度机制,能够通过编译优化、算子优化、运行时优化和调度策略的协同设计最大化硬件算力
具备端侧 AI 推理部署和系统优化经验,熟悉 C++/Python,具备较强工程落地能力
熟悉至少一种推理/编译/运行时链路,如 ONNX Runtime、llama.cp、TensorRT、OpenVINO、TVM、或自研推理运行时等
熟悉量化、图优化、算子优化、内存优化、异构调度、性能剖析工具中的多个方向
理解端侧 OS 与硬件约束,能在 Windows/Linux/Android 等环境完成部署与调优
具备跨团队协作和工程问题攻坚能力
工作职责
负责端侧模型部署全链路:模型转换、量化、编译、运行时接入、算子适配、内存管理、版本兼容与灰度发布
面向 CPU/GPU/NPU 异构计算和 Windows/Linux/Android 等端侧环境,进行性能剖析、瓶颈定位和推理优化
落地 token routing、device-cloud task orchestration、多模态低时延推理、隐私保护个性化等系统能力
落地 FP4/INT4 QAT、speculative decoding、on-policy distillation 等算法优化,保证精度、时延、吞吐、内存和稳定性平衡
对齐 Agentic OS 框架指标,建设性能回归、稳定性监控和工程最佳实践
解决端侧资源受限、功耗/热、兼容性、异常降级等工程问题,推动问题闭环
AI 洞察
优缺点分析
优点
- 职责覆盖模型部署全链路,能积累从算法优化到系统落地的完整经验
- 涉及 CPU/GPU/NPU、Windows/Linux/Android、多模态和端云协同,技术视野较广
- 岗位强调性能回归、稳定性监控和工程最佳实践,有利于形成可迁移的平台化工程能力
- 端侧资源受限、功耗热管理和多硬件兼容会显著增加优化复杂度
- 需要同时理解算法、编译器、运行时、操作系统和硬件架构,学习曲线较陡
- 精度、时延、吞吐、内存和稳定性之间需要持续权衡,问题定位周期可能较长
- 适合有端侧 AI 部署、推理引擎、编译优化或异构计算经验,并希望深入系统底层优化的高级工程师
缺点 / 挑战
- 岗位处于端侧 AI、异构计算与大模型推理优化交叉领域,技术深度和稀缺性较高
角色解读
- 可向端侧 AI 系统架构师、推理引擎专家或异构计算性能优化专家方向发展
- 长期可拓展到 Agentic OS、端云协同 AI、智能设备系统平台等更底层和更综合的技术路线
- 若具备技术影响力与协同管理能力,也可走向技术负责人或平台型团队管理岗位
- 负责端侧大模型或 AI 模型从训练后处理到设备端上线的完整部署链路,包括模型转换、量化、编译、运行时接入和版本发布
- 面向 CPU、GPU、NPU 等异构硬件,在 Windows、Linux、Android 等系统中做性能剖析、瓶颈定位和推理加速
- 落地 token routing、端云任务编排、多模态低时延推理、隐私保护个性化等系统能力
- 通过 FP4/INT4 QAT、speculative decoding、on-policy distillation 等方法,在精度、时延、吞吐、内存和稳定性之间做综合优化
- 需要扎实的 C++/Python 工程能力,并能完成端侧 AI 推理部署、性能调优和问题闭环
- 需要理解 CPU/GPU/NPU 微架构、指令集、算子库、内存层次和异构调度机制
- 需要熟悉至少一种推理、编译或运行时链路,如 ONNX Runtime、TensorRT、OpenVINO、TVM 或自研运行时
- 需要掌握量化、图优化、算子优化、内存优化、性能剖析工具中的多个方向,并具备跨团队协作能力
申请策略
- 面试前应梳理一个完整的端侧 AI 推理优化案例,能从问题定位、方案设计到上线效果闭环说明
- 关注端侧大模型、Agentic OS 和端云协同推理的发展方向,准备对隐私、低时延和资源约束问题的理解
- 突出端侧模型部署或推理优化项目,明确说明模型转换、量化、编译、运行时接入和上线发布中的具体贡献
- 量化展示性能收益,如时延降低、吞吐提升、内存占用下降、精度保持情况和稳定性改善
- 重点写明熟悉的推理/编译链路,如 ONNX Runtime、TensorRT、OpenVINO、TVM 或自研运行时,并说明实际使用深度
- 补充跨团队协作经历,尤其是与算法、系统、驱动、测试或产品团队共同解决复杂工程问题的案例
- 强化 C++ 性能工程能力,包括内存管理、并发、性能剖析和底层调试
- 系统学习量化、图优化、算子优化、speculative decoding 和端云协同推理等关键技术
面试指南
- 用“问题背景—约束条件—定位方法—优化方案—量化结果—复盘沉淀”的结构回答项目类问题
- 技术设计题先明确目标指标和边界条件,再分层说明模型、算子、运行时、调度和系统侧的优化取舍
- 遇到失败案例时,重点说明排查路径、验证方法、跨团队推进方式和最终沉淀的工程规范
- 你如何定位端侧模型推理的瓶颈?会从哪些层面采集和分析指标?
- 请介绍一次量化、算子优化或编译优化项目,如何平衡精度和性能?
- 在 CPU/GPU/NPU 异构环境中,如何设计调度策略以最大化硬件利用率?
- 端侧模型部署中遇到版本兼容、异常降级或灰度发布问题时,你如何闭环解决?
- 如何理解 token routing、device-cloud task orchestration 或低时延多模态推理?
职位点评
薪资福利78
成长发展90
工作生活45
使命价值76
薪资福利
78中等
JD未披露薪资和福利信息,但岗位要求硕士、端侧AI部署、异构计算和推理运行时经验,技术门槛较高。对看重薪酬竞争力的求职者有较强吸引力,但缺少明确的福利与激励信息。
薪资信号未披露(AI估算:3.5千–6.5万/月)
成长发展
90较高
岗位覆盖端侧模型部署全链路、异构计算优化、低时延多模态推理和Agentic OS框架指标,技术广度和深度都很强。JD明确涉及多项前沿优化方法,但对培训、晋升路径没有明确说明。
技术前沿前沿/新兴技术
技术栈端侧AI、CPU/GPU/NPU、ONNX Runtime、TensorRT、OpenVINO、TVM、FP4/INT4 QAT、speculative decoding、on-policy distillation、token routing、device-cloud task orchestration、多模态低时延推理
业务类型ambiguous
工作生活
45较低
JD仅明确工作地点在北京,未提及远程、弹性办公、双休或加班情况。由于缺少办公模式和生活节奏相关信息,生活化动机满足程度难以判断。
工作模式未明确
办公地点未明确
加班情况未提及(无法判断)
使命价值
76中等
岗位聚焦端侧AI系统能力、隐私保护个性化和端云协同,具有较强的技术前瞻性。JD未直接描述社会使命或行业价值导向,意义感主要来自技术方向本身。
行业发展高速增长赛道
社会影响中性/一般
创新程度积极采用新技术
联想 的其他在招职位
Advisory Researcher, On-Device Model & Agent Efficiency
联想 · 北京市AI 估算 · 3.5–6.5万Sr. Researcher, Model & Agent Evolution
联想 · 北京市AI 估算 · 6.0–10.0万Advisory Researcher, Omni & Multimodal Interaction Researcher
联想 · 北京市AI 估算 · 3.5–6.5万[LPS] Bid Manager
联想 · 香港特别行政区AI 估算 · 2.5–4.5万AI互连通信资深研究员
联想 · 北京市AI 估算 · 4.5–7.5万
相似职位推荐
GPU Performance Analysis Engineer
高通 · 上海市
AI 估算 · 3.5–6.0万5 小时前发布
CPU Performance Developer Technology Engineer
英伟达 · 上海市
AI 估算 · 4.0–7.0万12 天前发布
性能优化工程师
网易 · 上海市
AI 估算 · 3.5–6.0万14 天前发布
Senior System Software Engineer - AI Performance and Efficiency Tools
英伟达 · 上海市
AI 估算 · 4.5–8.0万19 天前发布
2027校招-系统优化工程师(云计算方向)
海光信息 · 成都市
AI 估算 · 1.8–3.0万19 天前发布
Performance Engineering Intern - 2027
英伟达 · 上海市
AI 估算 · 4.3–6.5千21 天前发布
Performance Engineering Intern, Deep Learning and HPC - 2027
英伟达 · 上海市
AI 估算 · 6.0千–1.0万21 天前发布
Performance & Modeling Engineer
高通 · 上海市
AI 估算 · 4.0–7.0万22 天前发布
Watch Jobs