字节跳动
软硬件架构探索工程师-AI工具链
软硬件架构探索工程师-AI工具链
发布于 大约 2 个月前普通员工/个人贡献者
上海市
高级经验
全职员工
仅现场办公
学历未注明
硬件工程
分布式训练
多卡互联
深度学习框架
硬件架构
AIGC
Asic Npu
GPGPU
LLM
AI 估算 · 30k–60k
AI芯片架构岗位技术门槛高，字节跳动薪资竞争力强，结合软硬件综合能力，月薪预估30-60K。
职位详情
关于这个职位
加入字节跳动，参与AI芯片软硬件协同设计，专注于LLM和AIGC等大模型的硬件架构优化与分布式部署方案
你将深入分析业务模型需求，指导硬件参数与微架构设计，并开发仿真建模系统，探索多卡互联技术
岗位要求扎实的深度学习框架与硬件架构知识，具备C++/Python编程能力，适合渴望在AI芯片前沿领域深耕的技术专家
最低要求
深入理解深度学习框架和软件栈
熟悉GPGPU、ASIC NPU的硬件架构
熟悉LLM和AIGC分布式部署训练方案，了解多层级卡间互联拓扑结构
有主动学习、快速解决问题的能力和自我驱动力
较强的C++、Python Coding能力
工作职责
参与AI芯片软硬件设计，负责LLM和AIGC等业务模型结构和需求分析，指导硬件参数设计和微架构优化设计
负责根据硬件，设计分布式训练、部署方案，提供硬件硅前验证案例和软件设计方案
参与探索多卡互联拓扑结构和方案，实现多卡之间的协同工作
负责分布式业务模型和Roofline硬件仿真建模系统开发
跟踪行业最新技术动态，为公司的AI芯片多卡互联技术发展提供前瞻性的建议和技术储备
优先资格
有LLM、AIGC类模型的业务对接经验，熟悉多机多卡分布式训练和部署
了解硬件多层次存储层级、同构和异构计算单元原理
了解硬件片上NOC和片间互联通信协议等
有MLI、LLVM或者PyTorch开发经验
有GPU、FPGA或AI芯片相关的开发和评测经验
AI 洞察
优缺点分析
优点
- 参与AI芯片核心设计，技术前沿性极强，积累稀缺的软硬件协同经验
- 字节跳动平台资源丰富，项目影响力大，与顶尖团队合作
- 薪资与福利丰厚，职业发展空间广阔
- 技术深度与广度要求高，需同时掌握软件框架与硬件架构
- 适合对AI芯片与大模型系统有浓厚兴趣，具备扎实软硬件基础，追求技术突破和职业发展的资深工程师
缺点 / 挑战
- 大模型迭代快，需持续跟踪行业动态，学习压力较大
- 工作强度可能较高，需要快速解决问题和自我驱动
角色解读
- 在AI芯片领域成为软硬件协同设计专家，主导架构定义
- 向技术架构师或团队技术负责人方向发展，带领团队探索前沿技术
- 积累大模型与硬件结合经验，可横向拓展至AI系统全栈优化
- 分析LLM和AIGC模型结构，指导AI芯片硬件参数与微架构设计
- 设计分布式训练与部署方案，提供硬件硅前验证案例和软件方案
- 开发分布式业务模型与Roofline硬件仿真建模系统
- 跟踪行业最新技术，为多卡互联技术提供前瞻性建议
- 深入理解深度学习框架（如PyTorch）和软件栈
- 熟悉GPGPU、ASIC NPU等硬件架构及存储层次
- 掌握C++/Python编程，具备较强的编码能力
- 了解多层级卡间互联拓扑及分布式训练部署
申请策略
- 在简历中具体说明在软硬件协同项目中承担的角色与产出
- 面试前深入了解字节跳动AI芯片（如火山引擎）的技术栈和方向
- 突出深度学习框架（如PyTorch）的深入使用经验，特别是分布式训练相关
- 展示硬件架构相关项目（如GPU编程、FPGA开发、AI芯片评测）
- 强调C++/Python编程能力，可附上开源贡献或高性能代码示例
- 提及LLM/AIGC模型的优化经验，如推理加速、分布式部署
- 补充学习LLVM、MLIR等编译器知识，了解硬件抽象层
- 熟悉多卡互联通信协议（如NVLink、PCIe、NOC）
面试指南
- 从问题定义、技术方案、实现细节、效果评估四个维度结构化回答
- 结合具体案例，量化结果（如吞吐量提升、延迟降低）
- 展现对软硬件trade-off的理解，强调协同优化思路
- 请介绍一个你参与过的分布式训练优化项目，遇到了哪些挑战？
- 如何设计硬件架构以适配LLM的Attention机制？
- 解释Roofline模型如何用于指导硬件设计？
- 多卡互联拓扑有哪些？如何选择？
- 如何在GPGPU上实现高效的内存访问？
职位点评
71
综合评分
字节跳动AI芯片架构岗，前沿技术栈、高薪高压，成长空间大。
从薪资福利、成长空间、工作节奏和岗位方向综合评估，方便横向比较。
更适合这类人
适合以技术成长和薪酬回报为首要目标、愿意高强度投入的求职者。
表现最好
成长发展
相对薄弱
工作生活
薪资福利75
成长发展90
工作生活40
使命价值70
薪资福利
75中等
字节跳动提供具有竞争力的薪资待遇（含股票），但JD未明确具体福利，整体薪酬水平位于市场高端。
薪资信号未披露（AI估算：30K-60K/月）
成长发展
90较高
岗位涉及AI芯片设计与大模型部署前沿技术，学习机会极多，成长路径清晰，但JD未明确提到培训或晋升通道。
技术前沿前沿/新兴技术
技术栈LLM、AIGC、GPGPU、ASIC NPU、分布式训练、多卡互联、Roofline
业务类型profit_center
工作生活
40较低
工作地点为上海办公室，未提及远程或弹性办公，互联网公司通常强度较高，WLB可能一般。
工作模式仅现场办公
办公地点未明确
加班情况未提及（无法判断）
使命价值
70中等
AI芯片属于高速增长赛道，技术影响力大，但社会价值层面较中性，主要为商业驱动。
行业发展高速增长赛道
社会影响中性/一般
创新程度积极采用新技术
字节跳动 的其他在招职位
相似职位推荐
Watch Jobs