具身智能AI Infra算法工程师

优缺点分析

角色解读

• 从初级AI Infra工程师成长为资深架构师，深入大模型底层核心技术
• 未来可向AI基础设施技术专家、大模型训练平台负责人或具身智能算法总监方向发展
• 负责大模型分布式训练框架的研发与优化，提升训练集群的整体效能
• 解决大模型训练中的显存瓶颈与计算加速问题，落地DP/TP/PP等并行策略
• 优化多卡通信机制，保障底层硬件的高效协同
• 扎实的计算机体系结构与深度学习框架基础，熟悉主流框架底层原理
• 精通分布式训练技术及并行策略
• 熟悉高性能计算与网络通信，具备底层优化能力

申请策略

• 了解安克创新在具身智能和机器人领域的最新产品与业务布局，思考AI Infra如何赋能具身智能大模型的训练与部署
• 突出在分布式系统、高性能计算或深度学习框架底层的相关项目经验
• 展示对CUDA编程、集合通信库或主流训练框架的源码级理解或优化经验
• 提前熟悉大模型分布式训练的主流开源框架，动手搭建小规模集群进行并行策略的实操训练
• 补充高性能网络通信知识

面试指南

• 采用“原理+实践+优化”的框架回答
• 先阐述技术原理，再结合具体项目或开源框架说明实现细节，最后分享在实际场景中遇到的性能瓶颈及优化方案
• 请详细介绍数据并行、张量并行和流水线并行的原理及适用场景？
• 在大模型训练中，如何定位和解决显存OOM问题？有哪些显存优化策略？
• NCCL和RDMA在分布式训练中的作用是什么？如何优化多卡通信性能？
• 如果训练集群中出现某个节点训练速度拖慢整体进度，你会如何排查和解决？
• 深入复习分布式系统基础、计算机网络以及深度学习框架底层机制
• 准备自己主导或深度参与的性能优化与系统调优案例