联想
AI 开发工程师-大模型/端侧推理
AI 开发工程师-大模型/端侧推理
发布于 大约 8 小时前普通员工/个人贡献者
全职员工仅现场办公人工智能
人工智能
Llama.Cpp
Llm
Onnx Runtime
Pytorch
Tensorrt
Vllm
多模态模型
端侧推理
量化
值不值得投
76综合评分
综合评分 76
前沿技术栈，技能成长快，薪资有竞争力，但工作模式未明确，可能需现场办公。
从薪资福利、成长空间、工作节奏和岗位方向综合评估，方便横向比较。
薪资怎么样
28K
比人工智能中位数低
发布情况
新岗位 · 今天发布
公司情况
这家公司招聘很活跃
约 520 个在招 · 其中人工智能 5 个
职位详情
关于这个职位
作为联想AI开发工程师，你将专注于大模型与多模态模型在端侧的工程落地，负责模型转换、部署、推理链路开发与性能调优
工作涉及深入理解Transformer架构，优化KV Cache、注意力机制等核心环节，并协同多方团队推动AI功能集成
适合对大模型推理技术有热情、具备扎实工程能力的候选人
最低要求
本科及以上，计算机、人工智能、电子信息相关专业
深入理解 Transformer 基础架构，熟悉大模型前向推理完整流程，掌握 Prefill、Decode 阶段运行原理，了解 KV Cache、上下文管理、Token 生成机制
熟悉模型结构、推理方式
熟悉主流模型推理范式，了解 INT4/INT8 量化、模型压缩、计算图优化等加速手段
熟练 Python，具备 C/C++ 开发能力优先
熟悉 PyTorch、ONNX、GGUF 模型格式
有 llama.cpp、ONNX Runtime、TensorRT、vLLM 任一推理框架实战经验
具备端侧 / 本地部署经验，了解 CPU/XPU/NPU 异构推理调度优先
良好问题排查能力，能够定位推理精度异常、性能瓶颈
具备优秀跨团队协同意识
工作职责
负责 LLM、多模态模型的工程落地，完成模型转换、部署、推理链路开发与性能调优
深入理解 Transformer 等主流模型结构，剖析 Prefill/Decode 推理流程，针对 KV Cache、注意力机制、采样策略开展优化
使用 PyTorch、ONNX Runtime、llama.cpp 等框架完成模型封装、量化、算子调试，解决内存占用、推理时延、吞吐瓶颈
搭建模型评测基准，对比不同硬件、推理引擎下模型表现，输出优化方案
协同算法、客户端、内核团队推进 AI 功能集成，支撑端侧 / 本地 AI 推理方案落地
跟踪前沿模型架构、推理加速技术，沉淀工程化工具链
AI 洞察
优缺点分析
优点
- 技术前沿：专注于大模型推理优化，是当前AI领域的热门方向，技能积累价值高
- 平台优势：联想作为跨国企业，提供丰富的资源和技术积累，有助职业发展
- 跨团队协作：与算法、客户端、内核团队合作，能拓宽技术视野
- 技术难度高：需要深入理解Transformer架构和推理流程，对底层优化能力要求高
- 适合对大模型推理技术有浓厚兴趣，具备扎实的底层开发能力，并希望在AI工程化领域深耕的工程师
缺点 / 挑战
- 工作强度可能较大：涉及性能调优和问题排查，可能需要应对复杂的技术挑战
- 持续学习压力：AI技术迭代快，需要不断跟踪前沿模型和推理加速技术
角色解读
- 技术专家路线：深耕大模型推理优化、端侧AI部署，成为领域专家
- 架构师路线：负责AI推理架构设计，协调软硬件资源，主导技术方案
- 管理路线：带领团队负责AI功能集成与落地，向技术管理方向发展
- 负责大模型（LLM、多模态）在端侧或本地环境的工程落地，包括模型转换、部署和推理链路开发
- 深入优化模型推理性能，针对KV Cache、注意力机制、采样策略等环节进行调优，解决内存、时延和吞吐瓶颈
- 搭建模型评测基准，对比不同硬件和推理引擎的表现，输出优化方案
- 与算法、客户端、内核团队协同，推动AI功能集成和端侧推理方案落地
- 深入理解Transformer架构和LLM前向推理流程，掌握Prefill/Decode原理
- 熟练使用Python，具备C/C++开发能力，熟悉PyTorch、ONNX、GGUF等模型格式
- 有llama.cpp、ONNX Runtime、TensorRT、vLLM等推理框架的实战经验
- 了解INT4/INT8量化、模型压缩、计算图优化等加速手段，具备端侧部署和异构推理调度经验者优先
申请策略
- 了解联想在AI领域的业务布局和产品方向，在面试中展示对端侧AI应用的思考
- 准备一个完整的模型部署或优化项目案例，展示从问题到解决的完整思路
- 突出大模型推理优化项目经验，包括模型转换、量化、性能调优等具体成果
- 强调对Transformer架构、KV Cache、Prefill/Decode等核心概念的理解
- 展示使用llama.cpp、ONNX Runtime、TensorRT等框架的实战经验
- 如有端侧部署或异构推理调度经验，务必重点提及
- 深入学习大模型推理优化技术，如量化、剪枝、算子融合等
- 熟悉C/C++编程，提升底层开发能力
面试指南
- 结合具体项目经验，从问题定义、技术选型、实施过程、效果评估等方面进行回答
- 强调对底层原理的理解，展示你如何通过分析模型结构、硬件特性来制定优化策略
- 体现跨团队协作能力，说明如何与算法、硬件团队配合解决复杂问题
- 请详细解释Transformer模型中的KV Cache机制及其在推理过程中的作用
- 如何优化大模型在端侧设备上的推理性能？请举例说明
- 你如何定位和解决推理过程中的性能瓶颈？
- 请介绍你使用llama.cpp或ONNX Runtime进行模型部署的经验
- 如何评估不同推理引擎在特定硬件上的表现？
职位点评
薪资福利75
成长发展90
工作生活60
使命价值70
薪资福利
75中等
该职位薪资水平在天津市场具有竞争力，但JD未明确提及具体福利，补偿性动机满足程度较好。
薪资信号未披露（AI估算：20K-35K/月）
成长发展
90较高
职位聚焦大模型推理优化，技术前沿，成长空间大，发展性动机满足程度高。
技术前沿前沿/新兴技术
技术栈LLM、Transformer、PyTorch、ONNX Runtime、llama.cpp、TensorRT、vLLM、量化、端侧推理
业务类型ambiguous
工作生活
60中等
JD未提及工作模式，但根据岗位性质，可能需要在办公现场工作，生活化动机满足一般。
工作模式未明确
办公地点未明确
加班情况未提及（无法判断）
使命价值
70中等
大模型推理优化是AI技术落地的重要环节，对推动AI应用有一定社会价值，但JD未明确使命导向。
行业发展高速增长赛道
社会影响中性/一般
创新程度积极采用新技术
联想 的其他在招职位
相似职位推荐
Watch Jobs