吉利汽车
大模型端侧部署岗
大模型端侧部署岗
发布于 大约 19 小时前普通员工/个人贡献者
全职员工仅现场办公算法优化工程师
算法优化工程师
Llm
Npu
Tensorrt
大模型
异构计算
推理优化
模型量化
端侧部署
值不值得投
54综合评分
综合评分 54
技术成长性极强、挑战性高的前沿AI工程岗，但WLB与薪资福利信息不明。
从薪资福利、成长空间、工作节奏和岗位方向综合评估，方便横向比较。
薪资怎么样
48K
与算法优化工程师中位数基本持平
发布情况
新岗位 · 今天发布
公司情况
这家公司招聘很活跃
约 2130 个在招 · 其中算法优化工程师 18 个
市场机会
选择面较广
北京 · 算法优化工程师 · 约 200 个在招
职位详情
关于这个职位
该职位专注于将大语言模型（LLM）部署到汽车座舱端侧设备上，并在算力与显存受限的硬件环境中进行深度性能优化
你需要挑战端侧算力极限，通过量化、算子优化等前沿技术，实现流畅、高效的车端AI体验，并与芯片厂商合作定义下一代端侧AI基础设施
最低要求
编程基础：扎实的C/C++或Python编程功底，具备良好的代码风格与工程化能力
模型压缩专家：精通主流模型压缩技术，在量化、剪枝、蒸馏或NAS等领域有深入实践，熟悉GPTQ、AWQ、SmoothQuant、SpinQuant等量化方案
推理框架精通：熟悉MLLM/VLM/LLM主流推理框架，如vLLM、TensorRT-LLM、GENIE/QNN、llama、cpp等，并掌握Speculative-Decoding、FlashAttention等加速技术
实战经验：具备实际的大模型推理优化经验，能够独立完成从模型训练后处理到端侧高效推理的全链路落地
极客精神：拥有深入的研究精神与创新能力，对AI系统底层原理充满好奇，具备持续学习前沿技术的意愿
以上2-5满足任一项即可
硬件架构理解：深入理解GPU/NPU/DSP等硬件架构及其存储层级，能够进行指令集级或微架构级的性能调优
异构计算经验：具备丰富的异构计算加速经验，有芯片级性能调优或与芯片厂商联合优化的成功案例
编译与引擎定制：有集成、定制和优化主流推理引擎的经验，包括但不限于TensorRT、ONNX Runtime、TVM、MLIR，或针对特定硬件修改过llama、cpp、TensorRT-LLM等框架源码
前沿技术落地：成功落地过推测解码、PagedAttention、KV Cache优化等前沿技术，并在提升吞吐量或降低功耗方面有量化成果
工作职责
核心业务：深度参与大模型在车机端的落地，直接触达亿万用户
技术挑战：挑战端侧算力极限，探索量化、算子融合等前沿技术在异构硬件上的极致优化
广阔空间：与高通、MTK、英伟达等芯片厂商深度合作，定义下一代端侧AI基础设施
模型落地与性能攻坚：负责大模型在端侧设备上的部署与性能优化，解决算力以及显存受限等核心痛点，实现丝滑的用户体验
前沿算法优化：深入研究并落地模型量化、算子优化、内核融合及图优化等关键技术，显著降低模型尺寸与推理延迟，提升端侧推理效率
硬件算力挖掘：深度挖掘高通Hexagon DSP/NPU、英伟达GPU/DLA的算力潜力，进行底层算子适配与加速
基建体系构建：构建高可用的端侧模型自动化优化与部署流水线，涵盖模型转换、量化校准、编译优化、自动化测试及性能瓶颈分析
AI 洞察
优缺点分析
优点
- 直接触达亿万终端用户，技术成果影响力大，能带来强烈的成就感
- 与顶尖芯片厂商合作，能接触到最前沿的硬件架构与AI加速技术
- 技术难度极高，需要在极度受限的算力和内存下实现高性能，对工程和算法能力都是巨大考验
- 技术栈复杂，需要深入理解硬件架构、编译器、推理引擎等多个底层领域，学习曲线陡峭
缺点 / 挑战
- 处于汽车智能化与大模型落地的前沿交叉领域，技术挑战高，成长空间广阔
- 适合对AI系统底层优化充满热情、具备极客精神、喜欢挑战硬件性能极限的资深算法工程师或AI系统工程师
角色解读
- 技术专家路线：深耕端侧AI部署与优化，成为在特定芯片平台或压缩技术领域的权威专家
- 架构师路线：主导下一代车载AI计算平台的整体技术方案设计，参与芯片定义与标准制定
- 技术管理路线：带领团队攻克端侧大模型的技术难题，推动技术方案在车型上的规模化落地
- 负责将云端训练好的大模型（如LLM/VLM）高效部署到算力有限的汽车车机芯片上，解决内存和速度的瓶颈
- 深入研究并实施模型量化、算子优化等前沿压缩技术，大幅降低模型体积和推理延迟，保证车端用户体验的流畅性
- 与高通、英伟达等芯片厂商紧密合作，针对其NPU/DSP/GPU架构进行底层适配与性能调优，最大化挖掘硬件潜力
- 精通C/C++或Python，具备扎实的编程基础和工程落地能力
- 掌握模型压缩与量化技术（如GPTQ, AWQ, SmoothQuant），有实际的大模型推理优化项目经验
- 熟悉主流推理框架（如TensorRT-LLM, vLLM）和加速技术（如FlashAttention），了解异构计算架构
申请策略
- 在简历和面试中，重点展示你解决实际工程痛点（如算力受限、显存不足）的思路和成果
- 提前了解车载系统的特殊性（如功耗限制、实时性要求），思考其对你技术方案的影响
- 突出1-2个具体的大模型端侧部署或优化项目，量化说明性能提升效果（如推理延迟降低XX%，内存占用减少XX%）
- 详细列出你熟悉的推理框架、量化工具以及针对特定硬件（如NPU、DSP）的优化经验
- 强调你的C/C++工程能力和对底层系统（如内存管理、指令级优化）的理解
- 深入研究至少一种车端主流芯片（如高通骁龙8295）的AI加速器架构与编程模型
- 系统学习模型量化、编译优化（如TVM）等核心技术，并尝试在开源模型上进行实践复现
面试指南
- 对于系统设计类问题，采用“分析约束（算力、内存、时延） -> 选择技术路径（量化、剪枝、蒸馏） -> 工程实现（框架选择、算子优化） -> 验证与迭代”的框架回答
- 对于技术原理类问题，不仅解释“是什么”，更要结合实践阐述“为什么选这个”以及“用在什么场景下”
- 对于问题解决类问题，使用STAR法则，清晰描述背景、任务、行动和量化的结果
- 请描述你如何将一个XXB大小的模型部署到一个仅有4GB内存的端侧设备上？
- 你熟悉哪些模型量化技术？它们各自的优缺点和适用场景是什么？
- 如果要对某个算子（如MatMul）进行深度优化以适配某款NPU，你的思路是什么？
- 请分享一个你解决过的、最棘手的端侧推理性能问题
- 复盘并深度梳理自己过往的优化项目，准备好数据支撑的技术细节
职位点评
薪资福利50
成长发展90
工作生活40
使命价值65
薪资福利
50较低
该职位作为上市企业技术岗，平台具有一定的稳定性，但JD未提及任何薪资福利信息，补偿性动机的满足程度存在不确定性。
薪资信号未披露（AI估算：35K-60K/月）
成长发展
90较高
该职位要求掌握大模型部署、量化、异构计算等一系列前沿且高难度的技术栈，与芯片厂商的合作也提供了接触底层技术的绝佳机会，对技术成长驱动力极强。
技术前沿前沿/新兴技术
技术栈大模型、模型量化、TensorRT、NPU、异构计算、算子优化、推测解码、FlashAttention
业务类型ambiguous
工作生活
40较低
JD中未提及任何工作模式（远程/混合）或WLB相关信息，且职位性质（解决核心痛点、攻坚）暗示可能面临较高的工作强度和投入要求。
工作模式未明确
办公地点未明确
加班情况JD含高强度暗示词
使命价值
65中等
该职位工作成果直接服务于亿万终端用户，参与定义下一代车载AI基础设施，具有明确的产业价值和社会影响力，属于智能出行领域的重要环节。
行业发展高速增长赛道
社会影响中性/一般
使命信号直接触达亿万用户、定义下一代端侧AI基础设施
创新程度开拓性创新（行业首创）
Watch Jobs