科大讯飞
【星火X计划-实习】面向大模型高效训推的算子研发与极致优化(J14616)
【星火X计划-实习】面向大模型高效训推的算子研发与极致优化(J14616)
发布于 5 小时前实习/见习
实习生仅现场办公高性能计算
高性能计算
Ascend C
Cuda
Gpu/Npu架构
Kernel开发
Pytorch
算子优化
高性能计算
值不值得投
80综合评分
综合评分 80
科大讯飞星火计划核心实习岗，直击大模型底层算子优化，技术壁垒极高、成长空间巨大，适合追求技术深度的顶尖人才。
从学习成长、工作节奏、岗位方向和实习待遇综合评估，方便比较实习机会。
薪资怎么样
9千
比高性能计算中位数低
发布情况
新岗位 · 今天发布
公司情况
这家公司招聘很活跃
约 230 个在招
市场机会
选择不多
合肥 · 高性能计算 · 3 个在招
职位详情
关于这个职位
该职位是科大讯飞星火X计划的实习岗位，主要面向大模型训练与推理过程中的关键算子进行研发与极致优化
你将深入理解硬件架构，设计并实现高性能Kernel，解决算力、通信和访存瓶颈，提升AI基础设施的整体效能
最低要求
届及以后在读硕士及以上学历，人工智能、计算机科学、高性能计算、数学、电子信息等相关专业，其他专业但具备突出工程能力者同样欢迎
具备扎实的计算机架构基础，熟练使用linux操作系统
熟练使用Git、VSCode等，熟练使用Pytorch、numpy等框架
对GPU/NPU等AI加速芯片的体系结构有深入理解，熟悉CUDA/Ascend C/Triton/TileLang等至少一种编程模型，有实际的Kernel开发调优经验
较强的编程实现能力，熟练掌握C/C++，Python等语言，有底层性能优化项目经验
具备较强的独立思考能力，具备追求卓越，不断突破创新精神，不断通过效率分析提升算子效率
工作职责
关键算子极致优化：针对大模型核心算子，结合硬件微架构特征（向量单元、矩阵单元、缓存层次、张量切分等），实现高算力利用率的高性能Kernel开发
通算融合：结合超节点等互联架构，实现计算与通信高效融合，降低分布式整体并行开销
算子自动调优与编译优化：研发面向大模型的算子自动调优框架，融合Tiling策略搜索、内存层次优化与指令调度，减少算子实现的人工调优成本，提升跨模型架构的算子复用性
AI 洞察
优缺点分析
优点
- 参与大模型底层核心技术的研发，技术壁垒高，能积累极具竞争力的底层性能优化经验
- 作为顶尖AI人才计划，能够获得优质的技术指导和资源倾斜
- 技术门槛极高，需要深入理解硬件微架构和底层指令集，学习曲线陡峭
- 适合对底层技术有浓厚兴趣、具备扎实计算机体系结构基础，且渴望在AI基础设施和高性能计算领域深耕的顶尖技术人才
缺点 / 挑战
- 依托科大讯飞星火大模型的真实业务场景，接触最前沿的AI基础设施挑战
- 大模型计算模式复杂，分布式并行策略的调优和通算融合面临较大的工程与算法挑战
角色解读
- 从算子开发实习生成长为AI基础设施与高性能计算领域的核心专家
- 未来可向大模型底层框架架构师、AI芯片软件栈专家或高性能计算技术负责人方向发展
- 深入大模型底层，针对训练和推理过程中的核心算子进行研发与极致性能优化
- 结合GPU/NPU等硬件微架构特征，设计并实现高性能Kernel，解决算力、通信和访存瓶颈
- 研发算子自动调优框架，实现计算与通信的高效融合，降低分布式并行开销
- 扎实的计算机体系结构基础，精通C/C++和Python，熟悉Linux开发环境
- 深入理解GPU/NPU架构，熟练掌握CUDA、Triton或Ascend C等至少一种编程模型
- 具备实际的Kernel开发与调优经验，能够使用性能分析工具定位并解决底层瓶颈
申请策略
- 了解科大讯飞星火大模型的技术架构和最新动态，准备关于如何突破算力瓶颈的深度思考，展现对AI基础设施的热情
- 重点突出在GPU/NPU架构下的Kernel开发经验，以及使用CUDA/Triton等工具进行性能调优的具体成果
- 展示在C/C++底层性能优化、并行计算或高性能计算相关的项目经历和竞赛成绩
- 量化性能提升指标，如算力利用率提升百分比或访存延迟降低的具体数据
- 深入学习计算机体系结构和GPU微架构原理，熟悉内存层次和指令调度机制
- 动手实践基于Triton或CUDA的算子编写与性能分析，了解大模型分布式训练的基础原理
面试指南
- 采用STAR法则，重点突出性能分析工具的使用、瓶颈定位（计算受限还是访存受限）以及具体的优化手段（如指令重排、共享内存优化）
- 对于架构问题，结合具体的硬件特性（如Tensor Core、SRAM）进行原理解释，并给出具体的代码或伪代码思路
- 请详细描述一个你做过的高性能Kernel优化项目，你是如何分析瓶颈并提升性能的？
- 在GPU/NPU架构中，内存层次和缓存机制是如何影响算子性能的？
- 针对大模型中的Attention算子或矩阵乘法，你会如何设计Tiling策略以优化访存？
- 如何理解通算融合？在分布式训练中，如何减少通信开销？
- 复习计算机体系结构、CUDA编程模型及GPU微架构知识，确保基础概念扎实
- 准备1-2个自己深度参与过的底层优化项目，能够清晰画出性能提升前后的对比数据及优化思路
职位点评
薪资福利75
成长发展95
工作生活60
使命价值85
薪资福利
75中等
作为超大型企业的顶尖AI人才实习计划，实习津贴在同类岗位中具备竞争力，但整体仍属于实习薪酬范畴。
薪资信号未披露（AI估算：6千–1.1万/月）
成长发展
95较高
岗位直击大模型底层核心技术，技术壁垒极高，能接触到最前沿的AI基础设施和硬件微架构，对个人技术深度的成长具有极大的推动作用。
技术前沿前沿/新兴技术
技术栈CUDA、Ascend C、Triton、TileLang、PyTorch、C/C++、GPU/NPU架构、Kernel开发
成长机会星火X顶尖AI人才计划
业务类型profit_center
工作生活
60中等
实习岗位通常有一定的弹性，但底层算子研发和极致优化工作强度较大，且未明确说明WLB政策。
工作模式未明确
办公地点科技园/产业园
加班情况未提及（无法判断）
使命价值
85较高
参与大模型底层算力优化，直接推动国产AI基础设施的发展，具有较高的技术使命感和社会价值。
行业发展高速增长赛道
社会影响正向社会影响力较高
使命信号释放硬件算力的关键、解决算力、通信、访存等关键算子瓶颈
创新程度积极采用新技术
科大讯飞 的其他在招职位
相似职位推荐
Watch Jobs