端侧多模态算法岗

优缺点分析

角色解读

• 技术专家路线：在模型压缩、推理优化领域深耕，成为端侧AI领域的顶尖专家
• 技术管理路线：带领团队负责端侧AI平台的建设，向技术总监方向发展
• 业务拓展路线：将端侧AI技术应用于更多业务场景，如智能座舱、自动驾驶等
• 负责大模型在手机、汽车等端侧设备的性能优化与部署，确保模型高效运行
• 深入研究模型量化、算子优化、内核融合等关键技术，降低模型尺寸和推理延迟
• 利用高通、MTK、NVIDIA等平台的硬件算力，进行模型移植、推理加速和SDK封装
• 构建和维护模型自动化优化与部署的pipeline，提升开发效率
• 精通C/C++或Python，具备扎实的编程功底
• 熟悉主流模型压缩技术，如量化（GPTQ/AWQ等）、剪枝、蒸馏和NAS
• 熟悉MLLM/VLM/LLM推理框架（如vLLM、TensorRT-LLM）和优化加速技术（如FlashAttention）
• 具备端侧AI硬件（高通、MTK、NVIDIA）的优化经验

申请策略

• 在申请时，可以强调你对端侧AI技术趋势的理解，以及如何将这些技术应用到吉利汽车的业务场景中
• 了解吉利汽车在智能座舱和自动驾驶方面的布局，在面试中展现你的业务洞察力
• 突出在端侧设备上部署和优化大模型的具体项目经验，包括量化、算子优化等
• 强调对主流推理框架（如vLLM、TensorRT-LLM）的深入理解和实践
• 展示在C++/Python方面的编程能力，以及在高通、MTK等平台上的优化经验
• 深入学习最新的模型压缩技术，如SpinQuant、SmoothQuant等
• 熟悉不同硬件平台的AI加速架构，如高通Hexagon DSP/NPU
• 关注业界前沿的推理优化技术，如Speculative-Decoding

面试指南

• 回答技术问题时，可以采用STAR法则，清晰阐述项目背景、任务、行动和结果
• 对于优化策略问题，可以结合具体案例，说明你的分析思路和权衡取舍
• 在回答开放性问题时，可以结合对行业趋势的理解，展现你的思考深度
• 请详细介绍一下你过去在端侧设备上优化大模型的项目经验，包括遇到的挑战和解决方案
• 如何选择和应用不同的量化方法（如GPTQ、AWQ）？
• 在模型部署时，如何针对高通Hexagon DSP/NPU进行算子优化？
• 如何评估和优化模型的推理延迟和内存占用？
• 你如何看待端侧AI在智能汽车领域的应用前景？