博世
智能座舱大模型专家(端侧部署与优化)_XC
智能座舱大模型专家(端侧部署与优化)_XC
发布于 6 个月前普通员工/个人贡献者
上海市
中级经验
全职员工
仅现场办公
学历未注明
软件工程
智能座舱
模型量化
边缘计算
高通平台
AI Agent
LoRA
TensorRT-LLM
大模型部署
AI 估算 · 35k–60k
智能座舱大模型核心研发岗，涉及端侧部署与模型优化，技术前沿，市场溢价高。
职位详情
关于这个职位
这是一个专注于智能座舱领域大模型端侧部署与优化的专家岗位
你将负责将大模型（如多模态模型、大语言模型）部署到车规级计算平台（如高通骁龙、NVIDIA DRIVE），并通过量化、剪枝、蒸馏等核心技术进行优化，以满足实时性、稳定性和功耗要求
同时，你需要结合座舱具体场景（如语音助手、多模态交互）进行模型定制与效果保障，并参与构建AI Agent应用框架
最低要求
深入理解大语言模型（LLM）及多模态大模型（VLM，Omni等）原理，扎实的机器学习与深度学习基础
熟练掌握主流训练框架、推理框架及量化工具链（GGUF/AWQ/GPTQ）
精通大模型在边缘设备（移动端/嵌入式）的部署与优化全链路，具有丰富的模型轻量化实战经验，熟练掌握模型量化（动态/静态/感知训练量化）、剪枝（结构化/非结构化）、蒸馏、投机采样（Speculative Decoding）等关键技术
精通大模型的微调与适配技术体系（包括但不限于Fine-Tuning、LoRA、Adapter、P-Tuning）
熟悉主流评测基准（如MMLU、C-Eval、自主构建的领域数据集）与评测方法
年以上机器学习/大模型相关研发经验，具备优秀的系统编程和问题解决能力，熟练掌握Python，并至少熟悉Java或C++中一种
有完整的模型从研发到部署上线经验者优先
英语口语流利，具备良好的团队沟通与合作能力，对前沿技术充满热情
工作职责
负责智能座舱大模型技术架构和选型：* 主导座舱场景下，端侧部署和端云协同架构的大模型(多模态模型、大语言模型，语音相关模型、分类模型等等)的调研、选型与综合评估(涵盖性能、精度、资源等)
负责大模型端侧产品化部署与优化：* 负责将大模型产品化部署至端侧计算平台（如高通骁龙座舱平台、NVIDIA DRIVE Orin等），并通过核心优化技术（如模型量化INT8/INT4/NVFP4、权重稀疏化与剪枝、知识蒸馏、动态形状推理、算子融合、内存复用、投机采样等）实现推理加速与资源高效利用，确保满足严苛的车规级实时性、稳定性与功耗要求
负责座舱垂直场景的模型定制与效果保障：* 深入结合座舱垂直场景（如：车载语音助手、多模态交互、场景智能（通勤模式、儿童模式等）、车辆功能控制、行程规划等），利用高效的微调技术（如LoRA、QLoRA、Prefix- Tuning等）进行领域适配与持续迭代，并建立系统的效果评测体系（包括自动化评测平台、场景化测试用例及人工评估标准）
负责端侧推理引擎与服务的构建：* 负责端侧大模型推理框架和服务（如vLLM、TensorRT-LLM、ONNX Runtime、TFLite、自研引擎）的集成、部署、性能深度调优与稳定性保障，构建高可用、低延迟的推理服务能力
参与并支持AI Agent系统设计与开发：* 参与设计并支持基于大模型的AI Agent应用框架开发，实现复杂的座舱交互功能，包括但不限于：对话管理（基于LangChain等框架）、任务规划与分解、工具调用（车控API、服务API）、记忆管理与个性化学习
负责相关模型的训练、对齐（如RLHF）与调优工作
跨团队协作与量产推动：* 紧密协同软件开发、测试、系统集成及产品团队，提供核心技术支持，主导技术方案评审与难题攻关，确保AI特性（如多轮对话、意图理解、情感化交互）在智能座舱产品中高质量落地并实现规模量产
优先资格
（优先）熟悉Android，具备移动端或嵌入式平台AI开发部署经验
（优先）熟悉高通、英伟达、AMD等平台AI工具链，具备针对特定硬件的性能分析和调优经验
（优先）深入理解AI Agent技术原理（如ReAct、ToT等），熟悉相关框架（LangChain、LlamaIndex、AutoGen），并具有设计、开发复杂Agent应用（如自主任务执行、多智能体协作）的实际项目经验
AI 洞察
优缺点分析
优点
- 技术前沿：直接接触并实践大模型在边缘侧部署与优化的最前沿技术（如INT4量化、投机采样），是AI工程化领域的核心技能，极具竞争力和价值
- 行业前景：智能座舱是汽车智能化的重要赛道，博世作为全球顶级Tier1供应商，能提供真实的量产场景和行业影响力，职业背书含金量高
- 技能复合：岗位要求横跨算法、工程、硬件，能培养“AI+嵌入式+汽车”的稀缺复合能力，避免技能单一化，长期发展潜力大
- 平台资源：在博世可以接触到高通、英伟达等顶级芯片厂商的最新技术和工具链，并获得跨团队、跨领域的项目协作经验
- 这个职位非常适合拥有3年以上机器学习/大模型研发经验，对将前沿AI技术落地到真实硬件产品充满热情，并希望在全球顶级汽车供应链企业中深耕发展的工程师
缺点 / 挑战
- 技术难度高：需要同时应对大模型本身的复杂性、嵌入式平台的资源限制以及车规级对稳定性、实时性的极端要求，技术挑战巨大
- 跨领域协作复杂：工作涉及与软件、硬件、测试、产品等多个团队的深度协作，沟通成本和推动落地的难度较高
- 知识更新快：大模型和边缘AI技术迭代迅速，需要持续投入大量时间学习，以跟上技术发展的步伐，工作压力不小
角色解读
- 技术纵深上，你可以从大模型部署专家，成长为精通特定硬件平台（如高通、英伟达）AI工具链和底层优化的顶尖专家，甚至参与自研推理引擎的开发
- 业务广度上，你可以从单一的技术实现，扩展到深入理解智能座舱整体产品与业务，向AI产品经理或技术负责人的方向发展
- 行业影响力上，在博世这样的全球顶级汽车零部件供应商积累量产经验，将使你成为智能汽车AI领域稀缺的复合型人才，拥有广阔的职业选择空间
- 你将主导智能座舱场景下大模型的技术选型与架构设计，并负责将选定的模型（如多模态、语音模型）部署到车规级硬件平台（如高通、NVIDIA）上
- 你的核心工作是运用模型量化、剪枝、蒸馏、投机采样等一系列优化技术，对端侧大模型进行深度性能调优，以满足汽车行业对实时性、稳定性和功耗的严苛要求
- 你需要结合具体的座舱交互场景（如语音助手、儿童模式），使用LoRA等微调技术对模型进行领域适配，并构建自动化评测体系来保障模型效果
- 此外，你将参与基于大模型的AI Agent应用框架开发，实现复杂的任务规划、工具调用等交互功能，并推动相关AI特性在量产车型中落地
- 你需要深入理解大语言模型和多模态模型的原理，并精通其在边缘设备（嵌入式/移动端）的完整部署与优化链路，包括模型量化、剪枝、知识蒸馏等关键技术
- 你必须熟练掌握Python，并至少熟悉Java或C++中的一种，具备优秀的系统编程和问题解决能力，以应对复杂的端侧性能调优挑战
- 你需要精通大模型的微调与适配技术体系，如Fine-Tuning、LoRA等，并熟悉主流评测基准和方法，能够建立有效的模型效果评估体系
- 流利的英语口语和良好的团队协作能力是必备的，因为你需要与软件开发、测试、产品等多个团队紧密合作，推动技术方案落地
申请策略
- 申请前，深入研究博世在智能座舱领域的最新产品和解决方案，了解其技术路线和合作伙伴，在面试中展现出你对公司和业务的了解
- 由于岗位强调英语口语和团队协作，准备好用英语进行技术讨论的案例，并思考如何清晰阐述你在跨团队项目中的角色和贡献
- 重点突出你主导或深度参与的大模型（尤其是LLM或多模态模型）在边缘设备或移动端的部署与优化项目，详细说明你使用的量化、剪枝等具体技术和取得的性能指标提升
- 清晰展示你完整的“模型研发-部署-上线”全链路经验，特别是那些满足严苛性能或资源约束（如低延迟、低功耗）的项目案例
- 如果有智能座舱、车载语音、自动驾驶或任何嵌入式AI相关的项目经验，务必单独列出并强调，这是极大的加分项
- 在技能部分，明确列出你熟悉的量化工具链（GGUF/AWQ/GPTQ）、推理框架（TensorRT-LLM, ONNX Runtime）和微调技术（LoRA），并用项目佐证
- 如果对高通、英伟达等特定车载计算平台的AI工具链不熟，可以提前学习其官方文档和SDK，了解针对该硬件的性能分析和优化方法
- 加强对AI Agent技术栈（如LangChain, ReAct框架）的理解和实践，尝试构建一个简单的、能调用外部工具的对话代理Demo，以应对优先要求
面试指南
- 对于项目经验类问题，采用STAR法则（情境、任务、行动、结果）结构化回答，重点突出你在技术决策、问题解决和最终量化成果中的个人贡献
- 对于技术原理对比题，先清晰定义每个概念，然后从原理、适用场景、优缺点、对资源（算力、内存）的影响等维度进行系统性对比，最后结合岗位的车规级要求给出有倾向性的结论
- 对于方案设计题，展现你的系统性思维：先分析业务场景的核心约束（如实时性、功耗、精度），再基于约束拆解技术选型，最后给出一个包含步骤、评估方法和风险预案的完整实施计划
- 请详细描述一个你将一个大模型（如LLaMA、GPT）部署到嵌入式或移动端平台的项目
- 你遇到了哪些挑战？具体采用了哪些优化技术（量化、剪枝等）？最终的性能提升数据是多少？
- 请比较动态量化、静态量化和感知训练量化（QAT）的优缺点，并说明在车规级场景下你会如何选择？
- 请解释一下投机采样（Speculative Decoding）的工作原理，它如何在不损失精度的情况下提升大模型推理速度？
- 如果让你为一个车载语音助手场景微调一个基础大模型，你会选择Full Fine-tuning还是LoRA？为什么？请描述你的技术选型和实施步骤
职位点评
Watch Jobs