Lenovo logo
联想
Senior Engineer, On-Device Agentic OS

Senior Engineer, On-Device Agentic OS

发布于 1 小时前

普通员工/个人贡献者

AI 估算 · 4.5–7.5万 · AI 参考估算
高级经验
硕士
全职员工仅现场办公AI算法
AI算法
Agentic Os
异构计算
推理运行时
端侧Ai
量化压缩

值不值得投

74综合评分

综合评分 74

端侧大模型与Agent系统架构岗,技术前沿、成长性强,办公与生活节奏信息未明确。

从薪资福利、成长发展、工作生活和使命价值四个维度综合评估,方便横向比较。

薪资怎么样

6.0万

比AI算法中位数低

发布情况

新岗位 · 今天发布

公司情况

这家公司招聘很活跃

约 360 个在招 · 其中AI算法 12 个

市场机会

选择面较广

北京 · AI算法 · 约 240 个在招

职位详情

关于这个职位

该职位聚焦端侧 Agentic OS 框架,负责从架构设计、任务编排到端云协同与推理运行时优化的全链路建设

你将围绕大模型端侧部署、异构计算、量化压缩和性能 benchmark 推动算法创新落地为可复用系统能力,并对上线效果负责

最低要求

硕士及以上学历,人工智能、计算机科学、电子信息技术等相关专业

软硬件一体优化能力,面向特定硬件的算子设计与优化能力
具备以下至少一到两个方向的深入研究或实践经验:大语言模型、多模态大模型、大模型后训练、大模型预训练、强化学习
深入掌握Transformer架构,了解主流dense和MoE开源模型(Qwen, Deepseek等)的结构设计原理
具备端侧 AI 系统、Agent 框架、推理运行时、OS 调度或异构计算相关经验
熟悉端侧模型部署与优化链路,包括量化、压缩、编译、运行时、内存管理、算子优化中的至少多个方向
具备强指标意识,能用 benchmark 和线上/离线数据定义问题、验证收益并推动闭环
熟悉 C++/Python,具备较强架构设计、性能剖析和跨团队推动能力
对 token routing、device-cloud 编排、多模态端侧推理、隐私保护个性化之一有深入实践

工作职责

负责端侧 Agentic OS 框架架构设计,包括任务编排、工具调用、上下文/记忆管理、token routing、device-cloud task orchestration、资源调度与推理运行时协同

建立并 owner 端到端指标体系与 benchmark:P50/P95/P99 推理时延、tokens/s 吞吐、CPU/GPU/NPU 资源利用率、内存占用、功耗/热约束、模型精度、Agent 召回率、整体任务完成质量
驱动跨层优化闭环:结合 FP4/INT4 QAT、speculative decoding、on-policy distillation、运行时优化与异构调度,实现端侧性能与质量联合提升
面向 CPU/GPU/NPU 异构计算和 Windows/Linux/Android 等端侧环境,定义框架约束、降级策略、设备云协同策略与隐私保护机制
将算法创新和推理优化转化为可部署、可度量、可复用的系统能力
负责技术路线、风险识别、里程碑拆解和跨团队对齐,对框架上线效果和指标结果负责

优先资格

有端侧 Agent 产品化经验

有 NPU/GPU 异构调度经验
有量化训练、投机解码、蒸馏落地经验
有顶会论文/专利或开源影响力

AI 洞察

优缺点分析

优点

  • 岗位处于端侧大模型、Agent 与异构计算交叉方向,技术深度和前沿性较强
  • 工作内容覆盖架构设计、性能优化和产品落地,能积累从算法到系统再到端侧部署的完整能力
  • 指标体系和 benchmark 由该岗位主导,技术影响力较明确,便于形成可量化成果
  • 联想具备终端与 PC 生态场景,适合希望把 AI 技术落到真实设备上的工程师
  • 端侧环境受算力、内存、功耗和热约束影响,性能与质量联合优化难度高
  • 岗位涉及多团队对齐和上线指标负责,除了技术能力,也需要较强的推动与沟通能力
  • 适合有大模型、端侧 AI、推理优化或异构计算背景,并希望做系统性技术落地的资深工程师

缺点 / 挑战

  • 需要同时理解大模型算法、推理运行时、OS 调度和硬件特性,跨层知识门槛较高

角色解读

  • 可向端侧大模型系统架构专家、AI 推理运行时负责人或端侧智能平台技术负责人发展
  • 长期可拓展到端云协同 AI 平台、AI OS、智能终端系统架构或大模型基础设施方向
  • 若具备产品化与团队协同能力,也有机会走向技术管理或平台型项目负责人
  • 负责端侧 Agentic OS 框架的架构设计,覆盖任务编排、工具调用、上下文与记忆管理、token routing 以及端云任务协同
  • 建立端到端 benchmark 和指标体系,围绕时延、吞吐、资源利用率、内存、功耗、模型精度和任务完成质量做持续优化
  • 推动 FP4/INT4 QAT、speculative decoding、on-policy distillation、运行时优化和异构调度等技术落地
  • 面向 Windows、Linux、Android 以及 CPU/GPU/NPU 环境,定义框架约束、降级策略、协同策略和隐私保护机制
  • 需要深入掌握 Transformer、dense/MoE 模型结构,以及大语言模型、多模态、后训练或强化学习等方向
  • 需要具备端侧 AI 系统、Agent 框架、推理运行时、OS 调度或异构计算经验
  • 需要熟悉量化、压缩、编译、运行时、内存管理和算子优化中的多个环节
  • 需要熟练使用 C++/Python,并具备性能剖析、架构设计和跨团队推动能力

申请策略

  • 申请前建议了解联想在 AI PC、端侧智能和混合 AI 方向的业务布局,形成与岗位场景匹配的表达
  • 面试中尽量用具体 benchmark 和项目数据证明你能把算法创新转化为可部署、可度量的系统能力
  • 突出端侧 AI、Agent 框架、推理运行时或 OS 调度相关项目,说明你在架构设计和上线落地中的具体角色
  • 量化展示性能优化成果,如时延、吞吐、内存占用、功耗、资源利用率或任务完成率的提升
  • 重点写明量化、压缩、编译、算子优化、speculative decoding、蒸馏等实际落地经验
  • 补充跨团队协作经验,尤其是技术路线制定、风险识别、里程碑拆解和指标闭环案例
  • 强化 C++/Python 性能剖析、内存优化和异构调度能力,熟悉 CPU/GPU/NPU 协同链路
  • 系统掌握端侧模型部署优化链路,包括量化训练、模型压缩、推理引擎、运行时优化和算子设计

面试指南

  • 用“背景-约束-方案-指标-复盘”的结构回答项目问题,重点说明硬件限制、优化路径和可量化收益
  • 回答架构题时先明确目标和边界,再分层拆解模块,最后说明风险、降级策略和验证方式
  • 回答跨团队问题时强调技术路线、里程碑、指标口径和沟通机制,体现你对上线结果负责的意识
  • 你如何设计一个端侧 Agentic OS 框架,并拆解任务编排、工具调用和记忆管理模块?
  • 如何建立端侧大模型推理的 benchmark,如何解释 P50/P95/P99、tokens/s、功耗和精度之间的权衡?
  • 请介绍一次你做量化、压缩、speculative decoding 或蒸馏落地的完整经历
  • 面向 CPU/GPU/NPU 异构环境,你会如何做资源调度、降级策略和设备云协同?
  • 遇到端侧性能达标但模型精度或 Agent 任务完成率下降时,你会如何定位和优化?

职位点评

薪资福利78
成长发展90
工作生活45
使命价值76

薪资福利

78中等

JD未披露薪资与福利信息,但该岗位属于高级技术专家型职位,技能门槛较高,通常对薪资动机有较好满足。稳定性与福利缺少原文依据,需面试确认。

薪资信号未披露(AI估算:4.5千–7.5万/月)

成长发展

90较高

岗位覆盖端侧 Agentic OS、大模型推理优化、异构计算和端云协同,技术前沿且系统复杂度高。JD明确强调架构设计、指标闭环和跨层优化,对技术成长和能力扩展非常有利。

技术前沿前沿/新兴技术
技术栈Agentic OS、大语言模型、多模态大模型、Transformer、MoE、Qwen、Deepseek、FP4/INT4 QAT、speculative decoding、on-policy distillation、token routing、device-cloud task orchestration、CPU/GPU/NPU、Windows/Linux/Android
业务类型ambiguous

工作生活

45较低

JD仅明确地点为北京,未提及远程、弹性办公、双休或加班情况,生活化动机缺少明确支撑。岗位需要跨团队对齐和上线指标负责,实际节奏建议面试确认。

工作模式未明确
办公地点未明确
加班情况未提及(无法判断)

使命价值

76中等

岗位推动端侧大模型与 Agent 能力在真实设备上的系统落地,具有较强技术探索和产品化价值。JD未直接描述社会使命或行业价值,意义感主要来自前沿技术落地本身。

行业发展新兴领域(暂难判断)
社会影响中性/一般
创新程度积极采用新技术
Watch Jobs