算法工程师（大模型方向）(J44890)

优缺点分析

角色解读

• 技术专家路线：深耕端侧大模型优化技术，成为模型部署、推理加速领域的领域专家或架构师
• 技术管理路线：在积累深厚技术后，可带领小团队负责特定方向的端侧AI能力建设与落地
• 负责将大语言模型、多模态模型等从云端适配并优化部署到各类终端设备（如电视、手机、嵌入式设备）上
• 运用量化、剪枝、蒸馏等技术压缩模型体积与计算量，解决端侧算力弱、内存小、延迟高的核心工程问题
• 针对不同硬件（CPU/GPU/NPU）和推理引擎（TensorRT/MNN等）进行深度优化，实现高效推理
• 扎实的深度学习理论基础，熟悉主流大模型架构（LLM， Vision Transformer等）
• 精通C++/Python编程，熟练使用PyTorch/TensorFlow等框架，具备模型训练、部署全流程经验
• 掌握模型压缩与加速技术，如INT4/INT8量化、剪枝、知识蒸馏，并有实际优化经验
• 了解端侧推理引擎原理，熟悉异构计算硬件特性，能针对不同硬件进行推理链路优化

申请策略

• 在面试中，准备一个你亲自完成的、包含从模型选择、优化到部署的完整项目案例，并能清晰讲解技术选型与权衡
• 关注海信在显示、家电等领域与AI结合的产品发布，了解其端侧AI的应用场景，将个人技术与业务需求结合阐述
• 突出任何端侧模型部署、优化或嵌入式AI相关的项目经验（如模型量化、推理引擎集成、特定硬件部署）
• 详细描述在项目中解决的具体性能问题（如推理延迟、内存占用）以及采用的技术方案和量化结果
• 列举熟悉的推理引擎（TensorRT、MNN等）和编程语言（C++、Python）的熟练程度，以及相关的工程实践
• 系统学习主流推理引擎（如TensorRT、ONNX Runtime）的原理和高级优化接口
• 在个人设备或云平台上实践对开源模型（如LLaMA）进行量化（如GGUF格式）和推理优化
• 深入了解常见AI芯片（如NPU）的计算架构和编程模型，补充异构计算知识

面试指南

• STAR法则：清晰描述项目背景(S)、你的任务(T)、采取的具体技术方案和行动(A)，以及最终可量化的结果(R)
• 原理阐述：对于技术问题，先清晰阐述基本概念和原理，再结合具体场景说明应用方法和权衡
• 问题分解：遇到开放性问题（如性能排查），展示结构化思维，从多个维度（模型结构、计算图、硬件特性、内存布局等）进行分析
• 请介绍一个你做过的模型部署或优化项目，具体解决了什么问题？用了什么技术？效果如何？
• 请解释一下模型量化（如INT8、INT4）的基本原理，PTQ和QAT的区别是什么？在端侧部署中有哪些挑战？
• TensorRT、MNN、ONNX Runtime这些推理引擎有何异同？在什么场景下会选择使用哪一个？
• 如何评估和优化一个模型在特定硬件（如某款手机NPU）上的推理性能？你会关注哪些指标？
• 当模型在端侧部署后出现精度下降较大或推理速度不达标时，你会如何进行排查和优化？