大模型应用开发高级工程师（智能体开发方向）

优缺点分析

角色解读

• 可向大模型平台架构师或技术Leader方向发展，负责更大规模系统的技术决策
• 可深入AI基础设施领域，成为大模型工程化专家，推动行业内最佳实践
• 有机会横向拓展至其他AI应用方向，如多模态、智能决策等，成为复合型技术专家
• 负责大模型应用平台的架构设计，定义大模型与上层应用的交互标准，确保平台高扩展性
• 主导模型网关、智能体运行时等核心中间件的研发，屏蔽底层模型差异，降低业务接入成本
• 解决长链路超时、Token吞吐瓶颈等性能问题，实现流式传输、语义缓存等机制保障稳定性
• 搭建Prompt管理、评估框架等效能工具，提升团队研发效率，并持续跟踪开源社区推动技术升级
• 精通Java或Go，熟悉Python，具备极强的编码与设计能力，深刻理解DDD、微服务架构
• 深入理解RPC、MQ、网关等中间件，熟悉向量数据库（Milvus、Pinecone等）及RAG架构
• 掌握LangChain、LlamaIndex等大模型开发框架，理解Prompt Engineering、Function Calling等核心概念
• 具备复杂系统架构设计经验，善于抽象通用的技术解决方案，并有良好的文档与沟通协作能力

申请策略

• 关注京东零售业务场景，了解大模型在电商领域的应用（如客服、搜索推荐），面试时可结合业务提出技术方案
• 建议在简历中清晰说明你在架构设计中的角色和贡献，避免仅罗列技术栈
• 突出大型分布式系统架构设计经验，详细描述在微服务拆分、接口定义、中间件选型方面的成果
• 强调大模型相关项目经验，包括使用LangChain等框架构建Agent或RAG应用的案例
• 展示性能优化实例，如解决高并发、低延迟问题的具体方案和量化结果
• 体现技术文档撰写和跨团队协作的成果，例如主导架构评审或推动技术统一
• 补充大模型应用开发框架（LangChain、LlamaIndex等）的实践经验，可自己动手搭建Demo
• 深入了解向量数据库原理及在RAG中的应用，熟悉主流产品（Milvus、Pinecone）的调优

面试指南

• 针对系统设计题，先明确需求边界，再分层思考（接入层、服务层、数据层），结合业务场景给出选型理由，并考虑容错、扩展性
• 对于技术选型问题，从功能对比、性能、社区活跃度、团队能力等维度分析，避免片面偏好
• 处理性能问题时，先定位瓶颈（如网络、模型调用、存储），再针对性地设计缓存、降级、异步等策略
• 请设计一个支持多种大模型接入的模型网关，考虑高可用和低延迟
• 在RAG场景中，如何选择合适的向量数据库并进行优化？
• 描述一个你主导的复杂系统架构设计，你是如何进行模块拆分和接口定义的？
• 如何解决大模型应用中的Token消耗和超时问题？请给出具体方案
• 你对LangChain和Semantic Kernel的看法，如何进行技术选型？