字节跳动
AI异构计算优化专家-Seed
AI异构计算优化专家-Seed
发布于 大约 2 个月前普通员工/个人贡献者
杭州市
专家级经验
全职员工
仅现场办公
学历未注明
研究与开发 (研发)
GPU
PyTorch
LLM
编译器
CUDA
模型优化
并行计算
异构计算
AI 估算 · 40k–70k
AI异构计算专家稀缺，字节薪资竞争力强，杭州市场较高，综合评估
职位详情
关于这个职位
这个职位负责评估和优化异构计算芯片，用于AI大模型的推理和训练，提升性能
你将深入了解芯片架构，开发高性能算子，并探索前沿软硬件结合技术，是AI基础设施的关键角色
最低要求
熟练掌握Linux环境下的C/C++、Python语言
具备扎实的计算机科学功底和编程能力，熟悉常见算法和数据结构，具有良好的编程习惯
能够熟练使用至少一种主流的机器学习框架（TensorFlow/PyTorch等），熟悉框架内部实现
熟悉至少一种经典深度学习模型及其应用场景，如GPT、SD、DiT、W&D等
熟悉至少一种并行计算架构，熟悉其编程模型，并知晓其优、劣所在
有良好的工作文档习惯，及时按要求撰写更新工作流程及技术文档
工作职责
评估：负责评估符合业务要求的异构计算芯片，建立/完善评估体系、负载模型，预估业务收益
推理与训练优化：
）负责异构计算芯片落地实际推理业务，适配异构计算芯片特性，降低推理时延，提高推理吞吐
）负责异构计算芯片落地实际训练业务，根据芯片计算、通信特性，优化显存占用，提高训练吞吐
算子与编译技术开发：
）负责开发异构计算芯片的高性能算子，根据芯片特性，优化算力、带宽利用率
）负责通过编译技术实现异构计算芯片在不同业务场景中落地，负责实现更加高效的异构硬件编程范式
前沿技术调研：负责调研、验证前沿软硬件结合方向，比如稀疏计算(Sparse Computation）、存内计算(In-Memory Computing)、数据流计算(DataFlow）等
优先资格
了解昇腾、寒武纪等推理/训练/通信相关优化，有高性能算子、大规模训练、通算融合领域经验者优先
了解SIMD/SIMT外其他并行计算模型及算法，了解其并行编程模型及其优、缺点者优先
了解模型剪枝、量化、LLM投机采样等优化方法原理，具备相关模型优化经验者优先
了解常见AI编译器方案及其优、缺点（如XLA、TVM、MLIR），有实际开发经验者优先
了解GPU硬件架构，了解GPU软件栈（CUDA、cuBLAS、CUTLASS），具备GPU性能分析的能力者优先
了解AI Compiler技术栈（MLIR等），熟悉Torch2.0+编译栈、Triton优先者优先
AI 洞察
优缺点分析
优点
- 前沿技术方向，直接参与大模型核心基础设施优化，技术积累深厚
- 字节跳动平台资源丰富，有大量实际业务场景验证技术方案
- 团队研究氛围浓厚，鼓励创新，有机会探索稀疏计算等新兴领域
- 技术门槛高，需要同时掌握硬件、软件和算法知识，学习曲线陡峭
- 行业竞争激烈，需要持续跟进最新芯片和框架动态
缺点 / 挑战
- 工作强度较大，面临紧迫的业务需求和性能指标压力
- 适合对AI系统优化有浓厚兴趣、具备扎实底层编程能力、喜欢挑战性能极限的工程师
角色解读
- 从专项优化专家发展为AI基础设施架构师，主导硬件选型和系统设计
- 可转向AI编译器或芯片设计方向，深入软硬件协同创新
- 在团队内成长为技术负责人，带领小组攻克关键性能瓶颈
- 评估和选型异构计算芯片，建立评估体系和负载模型，为业务提供最优硬件方案
- 针对AI大模型的推理和训练进行深度优化，包括算子开发、显存优化、通信优化等
- 研究前沿软硬件结合技术，如稀疏计算、存内计算，推动AI基础设施升级
- 精通C/C++和Python，具备扎实的计算机科学基础和算法能力
- 熟练使用PyTorch或TensorFlow等框架，了解内部实现机制
- 熟悉并行计算架构（如GPU、NPU），掌握CUDA或类似编程模型
- 了解AI编译器（XLA、TVM、MLIR）和模型优化技术（剪枝、量化）
申请策略
- 在简历和面试中体现对大模型推理/训练瓶颈的分析能力，而非仅罗列工具
- 关注字节跳动Seed团队的技术分享和开源项目，了解其技术栈方向
- 突出异构计算或GPU优化项目经验，量化性能提升（如吞吐提升X倍）
- 展示对深度学习框架底层的理解，例如自定义算子、通信优化等
- 若有编译器或芯片相关经验（如TVM、MLIR、CUDA），重点强调
- 深入学习CUDA编程和GPU架构，尝试实现高性能算子
- 了解主流AI编译器（如MLIR、Triton）的编译流程和优化原理
- 动手复现模型剪枝、量化等优化方法，理解其对推理速度的影响
面试指南
- 对于优化类问题，采用'问题识别->方案设计->实施->量化结果'的结构，突出分析过程和权衡
- 对于架构类问题，先阐述基本原理，再结合实际案例说明优缺点，体现深度理解
- 对于评估类问题，建立系统性评估框架，从算力、带宽、显存、生态等维度分析
- 请介绍一个你优化过的AI模型推理/训练项目，你做了哪些优化，效果如何？
- CUDA中的warp和thread如何调度？如何避免bank conflict？
- 解释Transformer模型在GPU上的推理瓶颈，你会如何优化？
- MLIR和TVM有什么区别？你用过哪些编译器优化pass？
- 如何评估一款新的AI芯片是否适合大模型训练？需要考虑哪些指标？
职位点评
75
综合评分
前沿AI异构计算优化岗位，技术驱动，高薪高压，成长空间大。
更适合这类人
适合追求技术深度和职业成长、愿意投入高强度工作以换取高回报和前沿经验的求职者。
表现最好
成长发展
相对薄弱
工作生活
薪资福利80
成长发展90
工作生活45
使命价值85
薪资福利
80较高
字节跳动薪资水平在行业领先，且该岗位属于核心研发，薪酬具有较强竞争力。JD虽未明确数字，但可预期整体回报较高。
薪资信号未披露（AI估算：40K-70K/月）
成长发展
90较高
该岗位涉及AI异构计算前沿方向，团队技术实力强，有大量实践机会和探索空间，对个人成长非常有利。
技术前沿前沿/新兴技术
技术栈异构计算、并行计算、编译器、稀疏计算、存内计算、数据流计算、LLM、GPU、CUDA、PyTorch
业务类型profit_center
工作生活
45较低
字节跳动工作强度较大，JD未提及弹性工作或远程，且岗位与硬件相关需要一线办公，WLB一般。
工作模式仅现场办公
办公地点科技园/产业园
加班情况未提及（无法判断）
使命价值
85较高
AI是高速增长赛道，该岗位直接参与通用智能核心基础设施，对科技进步有显著贡献，使命感和行业前景均较强。
行业发展高速增长赛道
社会影响正向社会影响力较高
使命信号为科技和社会发展作出贡献
创新程度积极采用新技术
字节跳动 的其他在招职位
相似职位推荐
Watch Jobs