金融基础大模型算法工程师

优缺点分析

角色解读

• 纵向发展：从算法工程师成长为技术专家，在金融大模型领域深耕，主导核心模型架构设计
• 横向发展：可转向金融风控全栈或数据科学方向，或成为AI落地业务的技术负责人
• 行业前景：金融大模型是AI高价值赛道，经验可迁移至其他行业大模型应用，职业天花板高
• 设计并实现金融行为序列基础模型的预训练流程，包括目标选型、Tokenization架构和Scaling实验
• 构建支付、出行、外卖等多域行为的统一序列表示，探索数据源混合对模型效果的影响
• 设计多实体（Account-Card）和多时间尺度融合架构，并进行系统化消融实验
• 将预训练模型应用到盗卡检测、信贷评分等风控场景，完成SFT微调和在线部署
• 扎实的深度学习基础，熟悉Transformer架构及变体（GPT/BERT/FT-Transformer/MoE）
• 精通PyTorch等框架，具备分布式训练（多卡/多机）的实际经验
• 具备独立设计消融实验和Scaling Law实验的能力，能通过实验驱动架构决策
• 有序列建模和自监督学习的实战经验，了解对比学习、ELECTRA等技术

申请策略

• 建议提前研究滴滴金融（滴滴数科）的公开资料，了解其风控体系和数据特色
• 在简历中展示对金融大模型趋势的理解，表达对业务落地的思考
• 突出预训练模型的完整项目经历，特别是从零搭建和训练的过程
• 强调在序列建模、Transformer变体上的实践，以及分布式训练经验
• 展示实验设计能力，如消融实验、Scaling Law实验的结论和影响
• 如有顶会论文或金融风控项目，务必醒目呈现
• 系统复习Transformer原理和主流大模型架构（GPT、BERT、MoE），准备手撕代码
• 熟悉金融风控业务场景，了解盗卡检测、信贷评分的基本逻辑

面试指南

• 对于项目类问题，采用STAR法则（情境-任务-行动-结果）结构，明确自己的角色和量化结果
• 对于技术原理问题，先给出核心定义，再结合自己做过的对比或实验展开，最后总结优劣
• 对于实验设计问题，强调控制变量、基线对比、统计显著性等要点
• 请详细描述你从零搭建一个预训练模型的过程，包括数据准备、模型设计、训练技巧等
• 在序列建模中，如何处理长序列和跨时间尺度的信息？请举例说明
• 设计消融实验时，如何确保结论的可靠性？你有哪些经验？
• 如何将预训练表征适配到下游风控任务？有哪些微调方式？
• 谈谈你对Transformer架构的深入理解，以及MoE为什么有效