字节跳动
AI加速软件资深研发工程师-芯片研发
AI加速软件资深研发工程师-芯片研发
发布于 2 天前普通员工/个人贡献者
杭州市
高级经验
全职员工
仅现场办公
硕士
研究与开发 (研发)
高性能计算
量化
分布式训练
大模型
AI加速
软硬件协同
集合通信
自研芯片
AI 估算 · 30k–60k
资深AI芯片研发岗位，字节跳动大厂溢价，技术难度高，市场稀缺，月薪3-6万，年终奖丰厚。
职位详情
关于这个职位
该职位是字节跳动AI芯片部门的核心研发岗，负责大模型在自研AI芯片上的性能评估与软硬件协同优化
你将主导高性能计算与通信算子的设计实现，以及分布式训练/推理系统的极致调优，同时牵引关键技术攻关和团队培养
适合对AI芯片、大模型底层优化有浓厚兴趣的资深工程师
最低要求
计算机/电子工程相关专业，硕士学位及以上优先，4年以上AI编译器、算子或高性能通信相关研发经验
深入理解AI加速硬件体系结构与并行计算，精通多层级存储、片上NOC与片间互联原理，能从体系结构视角驱动软硬件协同设计
精通C/C++与Python，具备扎实的算法功底与大型软件系统的架构设计、性能优化能力
深入掌握主流深度学习框架的底层计算与运行时机制，对常见算子的底层实现有深刻理解
具备技术领导力与较强自驱力，能独立牵引复杂技术攻关，沟通协作与问题分析解决能力优秀
工作职责
负责大模型在自研AI芯片上的性能评估与软硬件协同优化，主导方案设计、计算、通信全链路适配和调优
对接算法，负责字节跳动大模型例如豆包、Seedance等在自研硬件不同分布式方案设计性能评估、roofline建模和集群成本分析等，协助业务落地的软硬件协同设计
负责高性能计算算子与集合通信算子的设计、实现与优化，主导大模型分布式训练/推理场景下计算与通信的融合及重叠优化，追求极致的端到端吞吐与性价比
负责模型量化、稀疏、蒸馏等部署方案的探索与落地，构建分布式推理系统并对推理框架做极致调优
牵引关键技术难题攻关，制定技术路线，指导并培养团队成员，推动跨团队（算法、框架、驱动、硬件、芯片验证）协同与自研软件栈的架构演进
主动探索针对硬件，创新的部署方案和软件栈方案设计
优先资格
深入理解LLM与多模态模型（如Qwen、DeepSeek等），有大模型分布式训练/推理框架的研发与调优经验，有大模型训练千卡以上集群训练落地经验
熟悉NCCL、DeepEP等集合通信库与RDMA原理，有自研集合通信库或芯片互联的研发与优化经验
熟悉GPU或主流AI DSA体系结构与CUDA等异构编程模型，有算子优化、图编译优化或硬件评测的实战经验
有AI加速硬件量化工具的开发经验，熟悉模型量化、稀疏、剪枝、蒸馏等压缩技术的落地
熟悉AI服务器与集群架构，对多层级卡间互联Topo有实践经验，有大规模分布式部署落地经历
AI 洞察
优缺点分析
优点
- 参与自研AI芯片和大模型前沿技术，技术积累价值高
- 字节跳动大平台，资源丰富，影响力大，项目落地机会多
- 与算法、硬件、驱动等多团队协作，扩展技术视野
- 薪酬待遇优厚，股票期权等长期激励
- 技术难度高，需要同时掌握AI算法、芯片架构、高性能计算等多领域知识
- 工作强度可能较大，涉及多团队协作和复杂问题攻关
- 适合有深厚AI加速或高性能计算背景、热爱解决底层技术难题、愿意在高度不确定性中推进创新的资深工程师
缺点 / 挑战
- 自研芯片生态尚在建设中，可能面临工具链不完善等挑战
角色解读
- 技术专家路线：深入AI芯片软硬件协同领域，成为行业顶尖的加速优化专家
- 架构师路线：主导自研软件栈架构演进，成为系统架构设计师
- 管理路线：带领技术团队，晋升为技术总监或更高级别管理者
- 评估大模型在自研AI芯片上的性能，进行软硬件协同优化，确保端到端效率最大化
- 设计并优化高性能计算算子和集合通信算子，支撑大模型分布式训练和推理场景
- 探索模型量化、稀疏化等部署方案，构建极致性能的分布式推理系统
- 牵头关键技术攻关，制定技术路线，培养团队成员，推动跨团队协同
- 精通C/C++和Python，具备扎实的算法和大型系统架构设计能力
- 深入理解AI加速硬件体系结构，包括多层级存储、片上互联等
- 熟悉主流深度学习框架底层机制，能优化算子实现
- 具备技术领导力，能独立解决复杂问题并推动跨团队协作
申请策略
- 关注字节跳动自研AI芯片的技术博客或公开演讲，面试时展现对业务的深度了解
- 准备一个完整的项目案例，从问题定义、方案设计到最终收益，体现系统思维
- 突出AI编译器、算子优化或高性能通信的实战经验，附上具体性能提升数据
- 强调对AI芯片体系结构的理解，如多层级存储、互联拓扑等
- 展示大模型分布式训练或推理调优的项目成果，尤其是千卡级集群经验
- 体现技术领导力，如主导过复杂技术攻关或团队指导经历
- 深入学习LLM和多模态模型架构，了解主流模型（如Qwen、DeepSeek）的部署特点
- 熟悉NCCL、RDMA等集合通信库原理，可尝试自研简单通信库练习
面试指南
- STAR法则：情境、任务、行动、结果，清晰描述项目背景和个人贡献
- 量化成果：用具体数据（如延迟降低百分比、吞吐提升倍数）说明效果
- 体现系统性：从硬件架构、算法模型、软件栈全链路思考，展示深度
- 请描述一次你主导的AI加速器或芯片上的性能优化经历，遇到了哪些挑战？
- 如何评估一个模型在自研芯片上的性能？请谈谈roofline模型的使用
- 解释集合通信中的AllReduce原理，如何在分布式训练中优化通信瓶颈？
- 大模型量化有哪些常用方法？你如何平衡精度和速度？
- 你如何与算法、硬件团队协作？请举例说明推动跨团队方案落地的经验
匹配度报告
69
综合匹配度
字节跳动自研AI芯片核心岗，前沿技术栈，薪资优厚，但工作强度大、WLB一般。
适合人群
该职位最适合以技术成长和前沿探索为核心动机的求职者，能接受高强度工作。
最强匹配
成长发展匹配
最弱匹配
工作生活匹配
薪资福利80
成长发展95
工作生活30
使命价值70
薪资福利匹配
80较高
字节跳动薪酬竞争力强，资深岗位薪资偏高，但JD未明确福利，稳定性受限于互联网行业波动。
薪资信号面议 (30K-60K/月)
成长发展匹配
95较高
前沿技术领域，自研芯片+大模型，成长空间极大，项目挑战性强，但未明确培训或晋升路径。
技术前沿前沿/新兴技术
技术栈大模型、AI加速、自研芯片、软硬件协同、高性能计算、集合通信、量化
业务类型profit_center
工作生活匹配
30较低
仅现场办公，杭州科技园，未提及弹性工作或WLB，互联网大厂通常高强度，WLB较差。
工作模式仅现场办公
办公地点科技园/产业园
加班情况未提及（无法判断）
使命价值匹配
70中等
参与自研AI芯片突破，推动技术自主创新，有较高使命感，但属商业驱动，社会影响中性。
行业发展高速增长赛道
社会影响中性/一般
创新程度积极采用新技术
Watch Jobs