AI Customer Engineer

优缺点分析

角色解读

• 在AI工程方向深耕，成为端侧GenAI优化专家，主导复杂模型的部署方案
• 可向技术管理方向发展，带领团队负责客户技术支持与项目交付
• 借助高通平台积累行业资源，向芯片厂商或AI平台方的资深架构师转型
• 负责生成式AI模型（如LLM/VLM）在端侧设备的优化，包括量化、剪枝、蒸馏等技术，以提升运行效率
• 与产品团队和客户合作，将优化后的模型集成到高通平台的应用程序中，保证性能、精度和内存等指标
• 对已部署模型进行问题排查与调优，解决精度下降、延迟超标等系统级问题
• 扎实的编程能力，熟练掌握Python、C/C++，能够进行底层系统调试
• 熟悉PyTorch、ONNX Runtime等深度学习框架和模型部署工具链
• 深入理解模型量化（INT8/INT4）以及边缘设备上的模型优化与部署流程
• 熟悉生成式AI技术，包括LLM、VLM的推理框架和常见架构

申请策略

• 了解高通在端侧AI上的产品线，结合GenAI趋势展示热情
• 准备一个端到端模型部署的项目故事，展示问题解决能力
• 突出AI/ML相关项目经验，特别是模型优化或部署案例，量化成果（如推理速度提升百分比）
• 强调编程技能，尤其是C++/Python，以及调试复杂系统的问题
• 展示对GenAI框架（PyTorch、ONNX Runtime）的熟练程度，以及端侧部署经验
• 如有客户支持或合作经验，详细描述角色和贡献
• 学习模型量化、剪枝、蒸馏等优化技术，动手实践INT8/INT4量化
• 熟悉高通平台（如Snapdragon）的AI工具链，如Qualcomm AI Engine

面试指南

• 采用STAR法则（情境、任务、行动、结果）回答行为问题，突出技术决策和量化结果
• 面对技术问题，先澄清需求，再提出方案，并讨论权衡
• 针对开放性问题，结合行业趋势和自身经验，展现思考和见解
• 请详细描述你最近的一个模型优化项目，你使用了哪些技术？如何评估优化效果？
• 在模型量化中，如何处理精度损失？如果量化后精度下降严重，你会如何调试？
• 你如何设计一个端侧部署方案以确保实时性能？考虑哪些指标？
• 当你需要与不同团队（算法、系统、客户）协作时，该如何沟通和推进？
• 你对GenAI在边缘设备上的发展趋势有何看法？