上海-大模型研发工程师(J100835)

优缺点分析

角色解读

• 向大模型架构师发展，主导复杂AI系统的设计与优化
• 转向AI产品化方向，成为技术负责人，推动业务创新
• 深耕大模型底层技术，如模型压缩、推理加速等，成为领域专家
• 研发大模型推理服务、工具链和数据管道，确保系统高效稳定运行
• 与算法团队协作，将大模型能力集成到产品中，构建RAG和Agent等应用
• 优化大模型调用链路，提升响应速度和系统稳定性
• 参与数据工程建设，提升训练数据质量，推动工程化前沿技术落地
• 熟练掌握Python，具备大模型API调用和应用开发经验
• 深入理解RAG、Agent、Prompt Engineering等大模型应用技术
• 熟悉容器化技术（Docker、Kubernetes），有工程化落地经验优先
• 了解vLLM、LangChain等主流大模型工程化框架

申请策略

• 了解百度大模型产品（如文心一言）的技术架构，思考如何优化
• 在面试中展示对工程化问题的解决思路，而不仅是算法知识
• 突出大模型相关的项目经历，尤其是API调用、RAG或Agent的开发经验
• 强调Python编程能力和容器化技术实战，体现工程化能力
• 如果有开源贡献或技术博客，展示对大模型技术的持续关注
• 系统学习vLLM、LangChain等主流框架，动手搭建一个简单的RAG应用
• 补充Kubernetes和Docker的实战经验，熟悉云原生部署

面试指南

• 对于技术实现问题，先明确目标，再拆解步骤，最后给出优化方案
• 对于项目经验问题，采用STAR法则（情境-任务-行动-结果）结构回答
• 对于开放性问题，结合具体技术选型，对比不同方案的优劣
• 请描述你在RAG或Agent项目中的具体工作和遇到的挑战
• 如何优化大模型推理服务的响应速度？
• 你对LangChain和vLLM的理解是什么？它们分别适合什么场景？
• 如何设计一个高效的大模型数据管道？
• 请举例说明你如何将大模型能力集成到业务产品中