算法工程师

优缺点分析

角色解读

• 技术深耕：成为大模型推理优化专家，负责核心模型性能提升
• 架构方向：向AI系统架构师发展，设计大规模模型部署方案
• 管理方向：带领团队负责大模型落地项目，晋升为技术负责人
• 负责大模型推理性能优化，通过调优推理引擎、模型量化和蒸馏技术提升推理速度和效率
• 对大模型进行系统化评估，包括通用能力和垂类场景能力测试，确保模型效果
• 通过微调、RLHF等技术提升模型输出质量，并推动模型在业务场景落地
• 熟练掌握Python和PyTorch，具备扎实的计算机基础
• 深入了解机器学习和大模型知识，熟悉主流推理引擎如sglang、vLLM
• 具备模型微调经验，理解LoRA、P-tuning等技术原理

申请策略

• 了解东方财富的业务方向，特别是金融大模型的应用场景，在面试中展示业务理解
• 准备一个完整的项目案例，从问题定义到优化效果，体现工程思维和解决问题的能力
• 突出大模型相关项目经验，尤其是推理优化、模型微调、量化蒸馏等具体工作
• 强调Python和PyTorch的熟练程度，以及使用sglang、vLLM等引擎的经验
• 展示独立完成模型微调全流程的能力，包括数据准备、训练、评估和部署
• 提前学习主流推理引擎（如vLLM、sglang）的源码和调优技巧
• 补充模型量化（如GPTQ、AWQ）和蒸馏（如知识蒸馏）的实践经验
• 熟悉LoRA、P-tuning等微调方法，并尝试在开源模型上复现

面试指南

• 对于技术问题，采用STAR法则：背景、任务、行动、结果，突出技术细节和量化成果
• 对于原理问题，先解释核心概念，再对比不同方法的优缺点，最后结合实际场景说明选择依据
• 对于开放性问题，展示系统化思维，从数据、模型、工程等多个维度分析
• 请介绍你做过的大模型推理优化项目，具体使用了哪些技术？
• 如何选择量化方案？GPTQ和AWQ的区别是什么？
• LoRA微调的原理是什么？如何选择rank和target modules？
• 如何评估大模型的推理性能？常用的指标有哪些？
• 在模型微调过程中遇到过过拟合问题吗？如何解决？