千问事业部-大模型训推平台开发工程师-广州/杭州

优缺点分析

角色解读

• 从工程师成长为技术专家，深挖大模型训推平台底层技术
• 可沿阿里技术专家或架构师路径发展，系统架构能力和技术影响力是主要提升方向
• 大模型行业发展迅速，平台开发人才需求旺盛，未来甚至可以转向AI基础架构研究或内部创业
• 负责大模型训推平台的架构设计与开发，支撑模型开发、训练、评估、优化、推理部署全生命周期
• 与算法和训推引擎团队协作，构建超大规模计算/存储资源管理，打造面向多模态、Agentic的训推体系
• 优化训练效率和稳定性，建设数据可观测性、稳定性保障和资源任务调度优化能力
• 结合MTP、QAT、蒸馏等前沿技术，实现高性能和精度保障的模型压缩优化
• 扎实的Java开发能力，熟悉Python、Shell等脚本语言，具备大型项目经验
• 理解大模型训练和推理框架（如PyTorch、DeepSpeed等），有分布式系统设计经验
• 熟悉资源调度、容器化、Kubernetes等平台基础设施技术
• 具备复杂系统设计、性能优化与故障排查能力，同时要有良好的团队沟通协作能力

申请策略

• 了解阿里千问事业部的大模型产品和技术方向，在面试中展现对业务的思考
• 准备深度系统设计问题，如分布式训练平台架构、容错机制等
• 重点突出Java/分布式系统的项目经历，尤其是参与过大规模系统设计或故障处理的经验
• 如有大模型训练/推理优化相关经验，必须详细描述，这是加分项
• 体现解决复杂问题的案例，比如性能调优、资源调度优化等，并量化结果
• 提前学习大模型训练/推理框架的基本原理，理解平台层面的需求
• 熟悉Kubernetes、容器调度、分布式计算等平台核心技术
• 加强Java编程和性能调优能力，巩固操作系统、网络等底层知识

面试指南

• 系统设计题从需求分析、架构选型、关键模块（调度、存储、容错）和演进路线结构化回答
• 结合具体项目例子，说明背景、你的方案、结果和复盘，尽量量化
• 展现对大模型领域的热情和持续学习能力，可提及自己尝试过的相关项目或实验
• 如何设计一个支持多租户的资源弹性调度的大规模分布式训练平台？
• 如何优化多机多卡训练中的显存和通信效率？
• 描述一次你排查线上分布式系统故障并解决的过程
• 大模型训练平台有哪些关键技术挑战？你如何应对？
• 复习分布式一致性、资源调度、网络通信等基础知识