字节跳动
AI异构硬件性能评估专家-Seed
AI异构硬件性能评估专家-Seed
发布于 大约 2 个月前普通员工/个人贡献者
杭州市
其它
全职员工
仅现场办公
学历未注明
研究与开发 (研发)
异构加速
性能评估
机器学习
硬件仿真
计算机体系结构
GPU
LLM
NPU
AI 估算 · 35k–60k
AI领域专家级岗位，字节大厂溢价，杭州薪资略低于一线，综合市场行情估算。
职位详情
关于这个职位
该职位隶属于字节跳动Seed团队，专注于AI大模型（LLM）的异构硬件性能评估与选型
你将通过硬件仿真、负载建模和ROI分析，为自研大模型的训练和推理选择最优AI加速卡，直接推动业务落地
适合具备计算机体系结构、高性能计算背景，并对AI基础设施有热情的技术专家
最低要求
计算机、软件工程、人工智能、电子信息、微电子等相关专业优先
熟悉Linux环境下的C/C++或Python，具备良好的实验设计、数据分析和工程实现能力
熟悉计算机体系结构、芯片微架构、高性能计算、分布式系统、并行计算中的至少一个方向
了解CPU/GPU/NPU等至少一种计算架构，理解算力、带宽、缓存、显存、互联等关键指标
能够从真实业务负载出发，分析硬件性能、软件栈成熟度、规模化落地成本和业务ROI
工作职责
该岗位面向豆包Seed自研LLM模型的训练、推理等真实业务负载，建立硬件仿真、性能评估和业务ROI分析体系，为异构AI加速卡的引入、验证和规模化落地提供技术依据
硬件仿真与负载建模：构建Benchmark、模型画像和性能评估体系，预估不同规格AI加速卡在真实LLM业务中的端到端表现
性能瓶颈分析：分析硬件架构、微架构、软件栈、通信网络、算子性能和业务负载之间的关键约束
资源引入与ROI评估：结合业务规模、性能收益、资源成本、迁移成本和稳定性风险，支持硬件选型、技术验证和规模化落地决策
优先资格
加分项：
有硬件仿真、体系结构研究、性能建模、Benchmark、AI加速卡评测或硬件适配经验
熟悉Nsight、Profiler、Roofline、算子画像、通信性能分析、模型负载建模等工具或方法
了解GPU/NPU软件栈、编译器、算子库、通信库、训练或推理框架
有业务ROI、TCO、容量规划、资源效率分析、硬件选型或技术评估经验
有体系结构、HPC、系统方向科研项目、竞赛或开源项目经历
AI 洞察
优缺点分析
优点
- 身处AI大模型一线团队，接触前沿技术栈
- 工作内容有深度，能系统性提升硬件与AI交叉领域的专业能力
- 字节大厂平台，资源丰富，影响力大
- 对综合能力要求高，需同时具备体系结构、AI框架和业务理解
- 工作强度较大，需跟进快速迭代的LLM技术
- 硬件选型责任重大，决策失误成本高
- 适合对AI硬件底层技术有热情，喜欢从数据出发做决策，能够承受快速变化节奏的技术专家
缺点 / 挑战
暂无明显挑战项
角色解读
- 技术纵深：成为AI基础设施领域的专家，精通硬件-软件协同优化
- 横向扩展：可转向AI芯片设计、系统架构或MLOps方向
- 管理路径：带团队负责更大规模硬件评估与落地项目
- 对自研LLM的训练和推理负载进行硬件仿真与性能建模，预测不同AI加速卡的实际表现
- 分析硬件架构、软件栈、通信网络等瓶颈，输出优化建议
- 评估新硬件的ROI，包括性能、成本、迁移风险，支持选型决策
- 扎实的计算机体系结构知识，理解CPU/GPU/NPU关键指标
- 精通C/C++或Python，具备实验设计与数据分析能力
- 了解高性能计算、分布式系统或并行计算至少一个方向
申请策略
- 在简历中量化你的性能优化成果（如延迟降低XX%、吞吐提升XX倍）
- 关注字节跳动Seed团队的技术博客或开源项目，面试中展示你对团队工作的了解
- 突出在计算机体系结构、GPU/NPU性能优化或硬件仿真方面的项目经验
- 如果有LLM训练或推理加速的实际案例，务必详细描述
- 强调数据分析、ROI评估相关的工作成果
- 深入学习GPU/NPU软件栈（如CUDA、ROCm、Triton）
- 了解主流AI加速卡（如NVIDIA、AMD、寒武纪）的硬件特性
- 补充业务ROI分析方法，如TCO建模
面试指南
- STAR法则：描述情境、任务、行动、结果，突出量化数据
- 结构化分析：先拆解问题维度（性能、成本、迁移），再逐一给出评估方法
- 对比思维：列出候选方案的利弊，结合业务场景给出建议
- 如何对一个LLM推理任务进行硬件性能建模？请举例关键指标
- 比较GPU和NPU在训练LLM时的优缺点
- 如果引入一款新的AI加速卡，你会如何评估其ROI？
- 描述一次你通过性能分析找到硬件瓶颈并优化的经历
- Roofline模型是什么？如何用于AI加速卡评估？
职位点评
73
综合评分
AI大厂核心研发岗，前沿技术栈，薪资优厚，但工作强度和不确定性较高。
从薪资福利、成长空间、工作节奏和岗位方向综合评估，方便横向比较。
更适合这类人
适合追求技术成长、愿意接受高强度工作的发展型求职者。
表现最好
成长发展
相对薄弱
工作生活
薪资福利80
成长发展90
工作生活40
使命价值70
薪资福利
80较高
字节跳动提供有竞争力的薪酬和福利，但JD未明确具体薪资，大厂标准较高。
薪资信号未披露（AI估算：35K-60K/月）
成长发展
90较高
岗位涉及前沿AI硬件评估，技术挑战大，成长空间广阔。团队处于快速扩张期，有较多学习机会。
技术前沿前沿/新兴技术
技术栈LLM、硬件仿真、GPU、NPU、高性能计算
业务类型profit_center
工作生活
40较低
大厂通常工作强度较大，但JD未明确WLB信息，杭州办公地点未明确核心地段。
工作模式仅现场办公
办公地点未明确
加班情况未提及（无法判断）
使命价值
70中等
参与自研大模型的基础设施建设，有技术影响力，直接推动AI能力应用。
行业发展高速增长赛道
社会影响中性/一般
使命信号为科技和社会发展作出贡献
创新程度积极采用新技术
字节跳动 的其他在招职位
相似职位推荐
Watch Jobs