QClaw-端侧AI模型推理加速专家（深圳/北京/上海）

优缺点分析

角色解读

• 在腾讯深耕端侧AI推理，成为该领域技术专家，影响亿万用户
• 向AI系统架构师发展，主导下一代端侧推理平台的设计
• 有机会转向产品技术负责人，将技术能力转化为商业价值
• 负责办公PC和手机终端的端侧大模型推理性能优化，使用蒸馏、量化等技术降低延迟和功耗
• 协调CPU、GPU、NPU异构算力，优化推理引擎，保障本地大模型高效运行
• 对接Intel、AMD的AI生态，适配本地推理服务框架，推动方案落地
• 持续跟踪端侧推理前沿技术，输出标准化优化方案，解决实际线上问题
• 精通C/C++、Python，熟悉Windows和移动端开发环境
• 深入理解大模型架构，掌握量化、蒸馏、算子优化、内存调度等轻量化技术
• 熟悉OpenVINO、AMD Ryzen AI、移动端NPU加速等异构开发技术
• 熟练使用llama.cpp等端侧推理框架，具备完整部署和调试能力

申请策略

• 准备一个端侧推理优化的完整项目复盘，从问题到方案到效果
• 关注腾讯在端侧AI的最新动态，面试时展现对业务方向的理解
• 突出端侧推理加速项目经验，如使用量化、蒸馏优化模型的具体成果
• 展示异构开发经历，特别是OpenVINO、AMD Ryzen AI或移动端NPU的实际应用
• 强调性能优化案例，包括延迟降低、内存优化等量化数据
• 深入学习llama.cpp等开源推理框架源码，掌握其性能优化技巧
• 补充对主流移动端NPU（如高通、联发科）的加速库了解

面试指南

• 技术深度问题可遵循STAR法则：情境-任务-行动-结果，突出量化数据和挑战
• 对比分析问题可采用优劣对比法，先列出方案，再比较适用场景
• 请介绍你做过的一个端侧推理优化项目，具体采用了哪些技术？
• 如何平衡模型量化带来的精度损失和性能提升？
• 在异构计算中，如何调度CPU、GPU、NPU以最大化性能？
• 当你遇到端侧推理内存溢出时，如何定位和解决？
• 对llama.cpp的架构了解多少？如何对其进行定制优化？
• 复习大模型基础架构（Transformer、KV Cache等），准备量化和蒸馏算法细节