算法工程师-AI Infra

优缺点分析

角色解读

• 技术深耕：从AI Infra工程师向系统架构师发展，主导大型分布式AI系统设计
• 领域专家：成为大模型训练/推理优化专家，参与业界前沿技术探索
• 管理路线：带领团队负责AI基础设施整体建设，晋升为技术Leader或技术总监
• 设计并优化超大规模算力集群和调度系统，使用Kubernetes等云原生技术支撑LLM、多模态模型训练
• 深入训练引擎，攻克计算、显存、通信瓶颈，探索自动并行与编译优化，提升算力利用率
• 开发高性能推理引擎，优化显存管理、动态批处理、算子融合，适配NVIDIA及国产芯片
• 构建大规模样本引擎，优化数据链路，参与AI平台后端全生命周期架构设计
• 扎实的编程基础：熟练掌握C++/Python/Java等，深入理解数据结构、算法及操作系统、分布式系统
• 深度学习框架经验：熟悉PyTorch/TensorFlow，了解底层运行机制
• 系统优化能力：掌握性能分析工具，具备算子优化、图优化、内存优化等技能
• AI Infra相关项目经验：对Kubernetes、分布式训练、推理引擎有实践者优先

申请策略

• 关注京东AI平台开源项目（如JD AI），尝试提交代码或提出改进建议
• 在简历或求职信中明确表达对AI Infra领域的热情及长期规划
• 突出编程竞赛获奖、开源项目贡献（尤其是AI Infra相关）、顶级会议论文
• 详细描述分布式系统或AI框架相关项目，强调性能优化成果（如加速比、吞吐量）
• 列举熟悉的技术栈：C++/Python/Kubernetes/PyTorch，并注明熟练程度
• 展示对AI新技术的热情（如使用AI编程工具、参加技术社区活动）
• 深入学习Kubernetes和分布式系统原理，动手部署小型集群
• 阅读PyTorch源码，理解自动求导、分布式训练框架（DDP/FSDP）

面试指南

• STAR法则：描述项目背景、任务、行动、结果，突出量化指标
• 问题拆解：先界定边界，再分模块分析，最后给出优化建议
• 总结归纳：从具体问题中提炼通用原则，展示系统思考能力
• 请解释Kubernetes中Pod的调度流程，以及如何优化资源利用率
• 描述一次你在分布式环境中调试性能瓶颈的经历，使用了哪些工具？
• 大模型训练中常见的显存优化技术有哪些？请详细说明
• 你对PyTorch的分布式训练机制（如DDP/FSDP）了解多少？
• 如何设计一个高吞吐、低延迟的推理服务？需要考虑哪些因素？