端侧多模态推理引擎高性能优化工程师-AML（上海/杭州/广州/深圳）

优缺点分析

角色解读

• 技术深耕：从端侧推理引擎扩展到云原生AI推理，成为系统优化专家
• 业务影响：直接支持抖音、剪映等亿万用户产品的AI功能，积累高价值业务认知
• 行业领袖：在端侧AI领域建立技术影响力，可向AI架构师或技术负责人发展
• 设计并优化字节跳动端侧AI推理引擎，在CPU/GPU/NPU上实现高性能并行计算
• 将LLM、多模态等大模型压缩并部署到手机、PC等设备，保障实时性与功耗
• 开发推理框架工具链，支持模型转换、量化、调试，提升AI落地的效率
• 跟踪前沿技术（如MoE、低比特量化），在端侧落地创新方案
• 精通C/C++与Python，有扎实的算法与数据结构基础
• 熟悉至少一种GPU编程平台（CUDA/OpenCL/Metal）及推理库（TensorRT）
• 理解LLM/VLM/AIGC模型结构及常见优化手段（量化、稀疏化、FlashAttention等）
• 具备ARM NEON汇编或NPU（高通/MTK）部署经验者优先

申请策略

• 除了技术能力，在面试中展示对端侧AI场景的洞察，比如功耗、延迟、模型压缩的trade-off
• 关注字节AML团队的技术博客或开源项目，提前了解他们正在解决的问题
• 突出C/C++项目经验，尤其是涉及并行计算、内存优化、体系结构调优的成果
• 展示GPU/NPU编程实战案例（如CUDA算子优化、ARM NEON加速），附上性能提升数据
• 强调对大模型推理的理解，包括量化、稀疏化、KV-cache等，最好有端侧部署经历
• 提及熟悉MNN/TNN/CoreML等推理框架，并说明你如何改进过某算子或系统
• 复习计算机体系结构（缓存、流水线、SIMD），掌握性能分析工具（如perf、nsight）
• 动手实现一个简单的LLM推理引擎，重点优化自注意力或前馈网络

面试指南

• 对于优化类问题：先明确目标平台和约束（算力、带宽、功耗），再分步骤分析计算模式、访存模式、并行度，然后给出具体优化手段（如向量化、循环展开、内存对齐），最后对比优化前后的指标
• 对于策略类问题：说明你对多种方案的理解，分析trade-off（如精度 vs 速度，延迟 vs 吞吐），并举例说明在不同场景下如何取舍
• 请详细说明你是如何优化一个卷积层或全连接层在ARM CPU上达到极致性能的？
• 对于LLM在端侧部署，你会采取哪些量化策略？为什么？
• 手写CUDA kernel实现FlashAttention的前向计算，并分析性能瓶颈
• 如何比较不同NPU架构（如高通Adreno vs MTK）的优劣？在选型时考虑哪些因素？
• 你过去项目中遇到过最难的性能问题是什么？如何定位和解决的？
• 复习经典高性能计算案例（如GEMM优化、Winograd卷积），并手写实现