字节跳动
广告架构高级工程师-Ads ML Infra
广告架构高级工程师-Ads ML Infra
发布于 大约 3 小时前普通员工/个人贡献者
北京市
高级经验
全职员工
仅现场办公
学历未注明
机器学习工程
Gpu优化
Tensorrt
Vllm
分布式训练
模型压缩
模型推理
深度学习
联邦学习
量化
AI 估算 · 30k–60k
高级ML基础设施岗位稀缺，大厂薪资竞争力强，参考市场水平估算。
职位详情
关于这个职位
该职位负责大规模分布式训练与推理优化，支撑百亿参数模型和超长序列，与算法团队深度合作，提升机器学习效率，涉及量化、压缩、蒸馏等前沿技术
适合具备深厚系统功底和深度学习实战经验的工程师
最低要求
熟练掌握Linux环境下的C/C++编程
对深度学习模型推理及训练有过实际上手经验，熟悉至少一种机器学习框架
具有独立解决问题的能力，良好的团队合作精神，具备优秀的复杂问题拆解能力
有强烈的工作责任心、较好的学习能力、沟通能力和自驱力
工作职责
负责100+B参数模型，1M序列长度的大规模分布式训练（DDP/FSDP/TP/SP/PP）和推理支持（RPC框架/VLLM/TRT）
与算法部门深度合作，进行算法与系统的联合优化
负责机器学习效率优化，包括但不限于：量化、剪枝、压缩、蒸馏、特征选择、NAS、编译优化
负责特殊机器学习范式的支持，例如强化学习、联邦学习、图学习、优化器等
优先资格
了解某种主流机器学习框架的底层框架实现、具备GPU性能分析的经验、或有大规模分布式系统架构设计经验优先
AI 洞察
优缺点分析
优点
- 平台技术领先，接触前沿大模型基础设施
- 团队氛围好，与顶尖算法和工程人才合作
- 技术栈深，学习曲线陡峭
- 领域竞争激烈，需要持续学习
- 适合对底层系统充满热情，具备扎实C++功底和分布式经验的技术型人才
缺点 / 挑战
- 业务场景复杂，技术挑战大，成长快
- 工作压力大，可能面临紧急项目交付
角色解读
- 可成长为技术专家，深入底层系统优化
- 可转型为系统架构师，负责大规模ML基础设施设计
- 有机会参与前沿技术探索，如大模型训练优化
- 负责大规模模型（百亿参数）的分布式训练和推理支持，涉及DDP/FSDP/TP/SP/PP等并行策略
- 与算法团队深度合作，进行算法与系统的联合优化，提升训练效率
- 进行机器学习效率优化，包括量化、剪枝、压缩、蒸馏等
- 支持强化学习、联邦学习等特殊机器学习范式的实现
- 精通Linux环境下的C/C++编程
- 熟悉深度学习模型训练与推理，掌握至少一种机器学习框架
- 具备独立解决问题的能力和团队合作精神
- 了解底层框架实现、GPU性能分析或大规模分布式系统设计者优先
申请策略
- 关注字节跳动广告业务的技术挑战
- 准备系统设计和场景题
- 突出分布式训练或推理优化的实战项目
- 强调C/C++编程能力和性能调优经验
- 展示对机器学习框架底层的理解
- 学习vLLM、TensorRT等推理加速工具
- 了解GPU架构和CUDA编程
面试指南
- STAR法则回答项目经验，强调结果和量化指标
- 从系统层面分析问题，考虑计算、内存、通信等维度
- 展示对底层原理的理解，结合具体实践
- 介绍你做过的一个分布式训练优化案例
- 如何调试GPU性能瓶颈？
- 谈谈对模型量化或剪枝的理解
- 如何处理大规模模型的内存不足问题？
- 复习分布式训练原理（参数服务器、AllReduce等）
职位点评
72
综合评分
大厂前沿ML基础设施岗位，技术领先，薪资竞争力强，但工作强度大，WLB一般。
从薪资福利、成长空间、工作节奏和岗位方向综合评估，方便横向比较。
更适合这类人
适合以技术成长为核心动机、能承受高强度工作的资深工程师。
表现最好
成长发展
相对薄弱
工作生活
薪资福利70
成长发展90
工作生活50
使命价值70
薪资福利
70中等
职位薪资未披露，但字节跳动为一线大厂，高级技术岗薪酬具有较强的市场竞争力，福利体系完善。
薪资信号未披露（AI估算：30K-60K/月）
成长发展
90较高
该职位深耕大模型训练与推理优化，涉及前沿技术栈，技术成长空间大，对追求技术深度的人极具吸引力。
技术前沿前沿/新兴技术
技术栈C/C++、分布式训练、VLLM、TensorRT、GPU、量化、剪枝、蒸馏、强化学习、联邦学习
业务类型profit_center
工作生活
50较低
未提及工作生活平衡相关信息，结合互联网大厂高强度工作常态，预计加班较多，灵活性较差。
工作模式仅现场办公
办公地点未明确
加班情况未提及（无法判断）
使命价值
70中等
AI基础设施处于高速发展赛道，对推动产业智能化有积极意义，但广告业务导向，社会价值中性。
行业发展高速增长赛道
社会影响中性/一般
创新程度积极采用新技术
字节跳动 的其他在招职位
相似职位推荐
Watch Jobs