SAI VLA SDK 开发工程师

优缺点分析

角色解读

• 纵向可成长为端侧大模型部署与推理引擎架构专家，主导核心 SDK 的技术演进
• 横向可向自动驾驶系统级优化、多模态模型端侧落地等前沿业务方向拓展，成为技术团队核心骨干
• 在嵌入式平台（如高通）上进行大模型推理性能的深度优化，解决端侧算力与内存瓶颈
• 主导大模型量化方案的设计与实现，确保模型在板端部署后的精度与性能平衡
• 开发并维护高性能 VLA（视觉-语言-动作）SDK，涵盖模型推理、前后处理及系统级调优
• 精通 C++ 编程，具备扎实的嵌入式系统底层开发与调试能力
• 深入理解大模型端侧部署全流程，包括 Tokenization、KV Cache 管理及输出后处理
• 熟悉主流开源视觉/语言模型架构，并具备大模型量化（PTQ）的实战经验

申请策略

• 了解初速度在自动驾驶领域的业务布局，特别是其大模型在车端落地的最新进展，面试时结合业务场景谈技术理解
• 重点突出 C++ 性能优化经验，特别是针对内存管理、计算效率提升及系统级调优的具体案例与数据指标
• 详细阐述参与过的大模型端侧部署项目，包括量化方案（PTQ）设计、KV Cache 优化及精度对齐的实战成果
• 若有高通平台、DSP/NPU 工具链使用经验或计算图优化（算子融合等）经验，务必在简历中醒目标注
• 提前熟悉高通 QNN 或类似 NPU 工具链的部署流程，了解算子融合与图改写等计算图优化技术
• 深入研读 SigLIP、Qwen 等主流开源模型的架构细节，尝试在本地或开发板上进行简单的量化与推理部署实践

面试指南

• 采用 STAR 法则（情境、任务、行动、结果），重点突出“行动”中的技术细节（如具体的算子优化、内存池设计）和“结果”中的量化指标（如延迟降低百分比、吞吐提升倍数）
• 对于架构与原理类问题，先概述整体流程，再深入关键模块（如 KV Cache 的 PagedAttention 机制或量化校准流程），展现技术深度
• 在嵌入式平台上进行大模型推理优化时，你通常如何定位和解决内存与计算瓶颈？
• 请详细描述你主导过的大模型量化（PTQ）方案，如何确保板端部署后的精度对齐？
• 针对 KV Cache 管理，你做过哪些具体的内存与计算效率优化？提升了多少吞吐与延迟表现？
• 熟悉计算图优化技术吗？请举例说明算子融合或内存复用在实际项目中的应用
• 复习 C++ 高级特性、操作系统内存管理及嵌入式系统底层原理，准备手写或优化一段核心代码的场景
• 梳理自己过往项目中的性能优化案例，准备好应对面试官对技术细节的“深挖”和“压力测试”