算法工程师（27届实习）

优缺点分析

角色解读

• 从实习生切入大模型训练与推理工程，积累分布式系统与算子优化经验
• 转正后可向大模型算法工程师方向发展，深耕训练效率或推理性能方向
• 也可拓展至多模态、具身智能等工业界大模型应用领域
• 参与大模型推理与训练算法的研发，包括分布式训练框架与推理系统的落地
• 研发高性能算子，并对模型性能进行持续优化
• 跟进大模型前沿技术，将新技术迭代到产品中
• 扎实的神经网络理论基础，熟练使用 PyTorch 或 TensorFlow 等主流深度学习框架
• 掌握 C/C++、CUDA 与 Python，具备 Linux 环境下的研发能力
• 有大模型、NLP 或 CV 相关开发训练经验者更有竞争力

申请策略

• 投递前了解上海电气在工业大模型与智能制造方向的布局，面试中结合业务谈技术选型
• 面试前梳理自己项目中性能优化的完整链路，准备被深挖细节
• 重点突出大模型相关的训练或微调项目，写清模型规模与采用的并行策略
• 强调 CUDA/C++ 算子或推理加速的实践经验，量化性能提升
• 列出对 PyTorch 分布式训练（如 DDP、DeepSpeed）的掌握情况
• 补充竞赛、论文或开源贡献等能证明算法功底的材料
• 复习 Transformer 架构与分布式训练原理，熟悉 DeepSpeed、Megatron 等框架
• 动手写 CUDA 算子或参与 vLLM 等推理框架的实践

面试指南

• 项目类问题用「背景-方案-难点-量化结果」结构回答，突出自己的贡献
• 原理类问题先给定义，再讲机制，最后结合实际工程场景举例
• 优化类问题按「测量-定位瓶颈-改进-验证」的闭环思路展开
• 介绍你做过的大模型训练或微调项目，用了什么并行策略？
• Transformer 的注意力机制原理，推理时 KV Cache 起什么作用？
• 如何用 CUDA 优化一个算子，如何定位性能瓶颈？
• PyTorch 的 DDP 与 DeepSpeed 的区别是什么？
• 如何评估和优化大模型推理的吞吐与延迟？