AI Infra 研发实习生（agent 方向）（J103692）

优缺点分析

角色解读

• 实习转正后可深入AI Infra方向，成为大模型引擎优化或GPU计算专家
• 后续可向系统架构师方向演进，负责大规模AI系统的设计与优化
• 也可横向拓展至AI平台或云原生基础设施领域，成为复合型技术人才
• 优化大模型的推理和训练引擎，提升运行效率，降低资源消耗
• 评估并优化GPU上的算子性能，确保计算密集型任务高效执行
• 探索Agent技术如何自动化或辅助基础设施研发工作，提高研发效率
• 调研AI Infra领域的前沿技术，并尝试落地到实际系统中
• 扎实的编程基础，精通Python/C/C++，熟悉算法与数据结构
• 熟悉深度学习框架PyTorch，了解常见模型结构
• 对GPU计算和算子优化有基本了解，具备性能分析能力
• 有AI工作流或系统优化经验者优先，需具备独立解决问题和快速学习能力

申请策略

• 在简历中可附上GitHub链接，展示相关代码或优化项目
• 提前了解百度AI Infra团队的技术博客，面试中体现对业务的思考
• 突出C/C++和Python编程项目，尤其是高性能计算或系统级优化经验
• 展示与深度学习相关的项目，如使用PyTorch进行模型训练或推理优化
• 提及其他推理引擎（如vLLM、SGLang）的使用或二次开发经历
• 强调独立解决复杂问题的案例，比如性能瓶颈分析
• 补强GPU编程（CUDA）和算子优化知识，了解NVIDIA Nsight等性能分析工具
• 学习Agent或工作流框架（如LangChain、AutoGPT）的基本原理

面试指南

• 对于性能优化类问题，采用“问题分析-瓶颈定位-优化方案-效果验证”的框架
• 对于技术对比类问题，采用“特点-适用场景-权衡取舍”的结构
• 对于开放性理解问题，结合自身经验或调研，展示思考深度和系统性
• 如何优化一个Transformer模型的推理速度？请列出具体技术方法
• 你了解哪些大模型推理引擎？它们各自的优缺点是什么？
• 如果在GPU上遇到kernel launch overhead过高，你会如何优化？
• 描述一次你使用AI工作流解决实际问题的经历
• 谈谈你对Agent技术赋能基础设施的理解