【2027校招】大模型推理/训练优化工程师

优缺点分析

角色解读

• 在技术路线上，可深耕系统优化领域，成为AI Infra方向的技术专家或架构师，负责更大规模集群的效能与稳定性
• 在管理路线上，积累经验后可转向技术团队管理，负责AI基础设施团队的规划与建设
• 在应用路线上，可将底层优化能力与具体行业（如通信、云计算）结合，成为懂底层又懂业务的复合型技术负责人
• 深入优化大模型分布式训练与推理引擎的底层性能，解决计算效率、通信带宽和显存占用等核心瓶颈
• 研究并应用前沿的AI Infra技术，如异构计算、新型并行策略和推理加速框架，提升算力集群的整体利用率
• 将优化技术落地到具体的业务场景中，构建高并发、低延迟且高可用的模型服务，并量化评估性能与成本收益
• 紧密跟踪大模型技术发展趋势，通过系统级的创新为业务团队提供坚实的算力基础支撑
• 扎实的计算机系统功底，包括操作系统、分布式系统和计算机网络知识，能理解硬件与软件的协同
• 精通主流AI框架（如PyTorch/TensorFlow）和大模型推理引擎（如vLLM/TensorRT-LLM）的原理与优化
• 出色的编程能力与工程实践能力，能够将算法理论转化为高效、稳定、可维护的代码与系统
• 具备性能分析与调优经验，熟悉使用 profiling 工具定位系统瓶颈

申请策略

• 深入研究中国电信在AI、云计算和数字化转型方面的战略方向，思考你的技术如何为其业务赋能
• 准备一个能清晰阐述的、有技术深度的项目经历，面试中很可能会被详细追问
• 重点突出在分布式系统、高性能计算、AI框架（特别是大模型相关）方面的课程项目、科研项目或实习经历
• 详细描述你解决过的具体技术难题（如性能瓶颈、通信问题），并量化说明优化效果（如提速XX%、成本降低XX%）
• 展示扎实的编程功底，可以附上技术博客、GitHub开源项目链接或相关的技术竞赛奖项
• 系统性地学习或复习操作系统、计算机体系结构、分布式系统等核心课程知识
• 亲手实践一个主流大模型推理或训练框架（如vLLM、PyTorch），尝试进行简单的性能分析和优化
• 了解当前大模型训练与推理优化的主要技术方向，如混合精度、模型量化、MoE架构、张量并行等

面试指南

• 对于技术原理问题，采用“定义-原理-作用-实例”的结构进行回答，先说清概念，再讲工作机制，最后结合实际场景说明其价值
• 对于系统设计问题，采用“需求分析-模块拆解-关键指标-潜在挑战”的框架，展示你的系统性思维和权衡能力
• 对于项目经验问题，使用STAR法则（情境-任务-行动-结果）来组织回答，重点突出你的思考过程和量化成果
• 请解释一下什么是大模型推理中的算子融合？它如何提升性能？
• 如果让你设计一个高并发的模型推理服务，你会考虑哪些关键组件？如何保证其高可用性？
• 请描述一次你优化程序性能的经历，你是如何定位瓶颈并进行优化的？
• 你了解vLLM或TensorRT-LLM吗？它们在技术实现上有什么特点或优势？
• 在分布式训练中，什么是混合并行策略（如数据并行+模型并行）？为什么要采用这种策略？