【2027】AI框架研发工程师-青岛(J14465)

优缺点分析

角色解读

• 纵向可向AI系统架构师、高性能计算专家或AI基础设施技术负责人方向发展，成为底层系统领域的顶尖技术专家
• 横向可拓展至国产算力生态建设、异构计算集群调度等更广泛的AI基础设施领域，在国产替代浪潮中具备极高的行业稀缺性
• 负责主流AI框架（如PyTorch、TensorFlow、JAX）在国产GPGPU上的底层适配、组件开发与系统级性能优化
• 针对大模型、搜广推、视觉推理等多领域场景，进行端到端的训练与推理性能分析及瓶颈突破
• 研发基于国产算力的高性能组件（如向量数据库），并跟踪前沿AI框架技术进行工程落地
• 精通C++与Python编程，深入理解CUDA编程模型、GPU执行机制与内存层次结构
• 熟练掌握至少一种主流AI框架（如PyTorch、Triton等）的底层原理及性能优化方法
• 具备LLM、VLM或搜广推等领域的实际训练/推理优化经验，了解算子融合、内存复用等加速技术

申请策略

• 提前了解中科曙光在国产算力生态中的最新布局及产品特性，面试时展现出对国产替代战略的理解与热情
• 准备好针对特定模型（如Transformer）在GPU上的性能瓶颈分析及优化方案，以应对深度的技术拷问
• 突出在PyTorch/TensorFlow等框架的底层修改、算子开发或框架适配经验，展示对框架执行机制的深刻理解
• 量化展示在LLM/VLM或搜广推场景下的性能优化成果，如吞吐量提升百分比、显存占用降低比例等具体指标
• 强调CUDA编程、GPU内存体系优化或Triton/TVM等编译器工具的实际项目经验
• 深入学习Triton、TVM或MLIR等AI编译器技术，了解图算优化与算子生成的底层逻辑
• 提前了解国产GPGPU（如海光、昇腾等）的硬件架构、指令集与编程模型，缩小与岗位要求的差距

面试指南

• STAR法则结合数据支撑：情境（模型/框架背景）- 任务（性能瓶颈/优化目标）- 行动（具体使用的优化技术如算子融合、内存复用、流水线并行）- 结果（性能提升百分比或资源节省数据）
• 底层原理剖析法：从硬件架构（如SM、显存带宽、Cache、寄存器）出发，解释软件层面的优化策略，展现对软硬件协同设计的理解
• 请详细描述你在PyTorch或TensorFlow中做过的最复杂的算子优化或框架适配工作，遇到了什么困难？
• 在GPU上训练或推理大模型时，常见的内存和计算瓶颈有哪些？你是如何通过软件层面解决的？
• 对比CUDA和国产GPGPU的编程模型，你认为在适配过程中最大的挑战是什么？
• 请解释Triton或TVM的编译优化流程，以及它们如何提升算子性能？
• 针对搜广推场景中的稀疏计算或大Batch训练，你有哪些具体的性能优化经验？
• 复习CUDA编程模型、GPU内存层次结构及主流AI框架的底层执行机制（如PyTorch的Autograd和Dispatcher机制）