字节跳动
方舟服务端研发工程师（链路架构方向）-Data AML
方舟服务端研发工程师（链路架构方向）-Data AML
发布于 1 天前普通员工/个人贡献者
北京市
中级经验
全职员工
仅现场办公
本科
微服务架构
负载均衡
高并发
大模型推理
Service Mesh
Envoy
AI 估算 · 30k–55k
字节跳动大厂，AI基础设施核心岗位，技术难度高，市场竞争力强，薪资属行业偏上水平。
职位详情
关于这个职位
作为方舟MaaS平台的核心研发工程师，你将负责构建和优化大模型服务链路，包括文本对话、多模态理解等API能力
你将深入参与Service Mesh、流量治理、高可用架构的设计与落地，解决大模型场景下的高吞吐、低延迟挑战
这是一个技术深度与业务影响力兼具的岗位，适合有志于AI基础设施方向的工程师
最低要求
本科及以上学历，计算机相关专业
具备扎实的计算机基础，对基本数据结构、网络协议有深入理解
熟练掌握Golang/Java/C++/Python中任意一门语言，代码风格良好，具备优秀的系统设计和抽象能力
熟悉分布式系统原理，有微服务架构、高并发系统或中间件开发经验
对缓存、消息队列、负载均衡等常用技术组件有实际落地经验
工作职责
核心链路构建：负责方舟MaaS平台核心链路组件的设计与研发，支撑文本对话、多模态理解、多模态生成等API能力
流量治理与架构：基于Cloud Native体系，深入参与Service Mesh、负载均衡、智能路由等架构演进
设计并落地全链路灰度发布、流量降级、熔断限流等高可用方案
组件性能优化：面对大模型多模态推理场景下的长连接、高吞吐、流式输出、低延迟挑战，进行系统级的性能调优
稳定性建设：保障大规模模型调用场景下的系统稳定性，解决突发流量下的架构瓶颈问题
优先资格
了解智能体基本概念和相关技术实现，如函数调用、MCP等，自己动手实现过智能体更佳
熟悉K8s、Docker、Istio/Envoy等云原生及Service Mesh技术
对图像/音视频等多模态数据的加工、存储有深入了解
对大模型推理链路（LLM Inference）感兴趣，或有相关工程实践经验
AI 洞察
优缺点分析
优点
- 字节跳动大平台，资源丰富，技术氛围浓厚，与顶尖工程师合作，成长速度快
- 大模型赛道持续升温，岗位稀缺，职业前景广阔，薪资竞争力强
- 技术栈广泛，需要不断学习云原生、大模型等新兴技术，保持知识更新
- 适合热爱底层技术、追求极致性能、希望在AI基础设施领域深耕的资深后端工程师
缺点 / 挑战
- 参与前沿AI基础设施的建设，技术挑战大，积累的云原生和高并发经验极具市场价值
- 工作强度较高，可能面临较大的项目压力和紧急线上问题处理
- 对系统稳定性和性能要求极高，一线问题排查压力大
角色解读
- 技术深耕：成为分布式系统、云原生架构或AI基础设施领域的专家，主导复杂系统的设计与演进
- 技术管理：在字节跳动内部从IC向技术Leader发展，带领团队攻克技术难题
- 跨领域拓展：向大模型推理、多模态数据处理等前沿方向延伸，成为AI工程化全栈人才
- 设计和研发方舟MaaS平台的核心链路组件，支撑文本对话、多模态理解等API服务
- 基于Service Mesh和云原生技术，推进流量治理、灰度发布、熔断限流等高可用架构的落地
- 面对大模型推理的高吞吐、低延迟挑战，进行系统级性能调优，优化长连接和流式输出
- 保障大规模模型调用场景下的系统稳定性，解决突发流量下的架构瓶颈
- 扎实的编程能力，精通Golang/Java/C++/Python之一，具备优秀的系统设计能力
- 深入理解分布式系统原理，有微服务、高并发或中间件开发经验，熟悉缓存、消息队列、负载均衡
- 熟悉云原生技术栈，包括Kubernetes、Docker、Istio/Envoy等Service Mesh组件
- 了解大模型推理链路或智能体相关技术，有性能调优经验者更佳
申请策略
- 在简历和面试中强调技术深度和解决问题的能力，准备1-2个性能调优或架构设计的案例
- 了解字节跳动方舟MaaS平台的产品和技术博客，展现对业务的热情
- 突出分布式系统或微服务架构的实战项目，强调在性能优化、高可用设计上的具体成果
- 展示对云原生技术（K8s、Istio等）的掌握程度，如有相关认证或开源贡献更佳
- 提及大模型推理、智能体或Service Mesh的实践经验，即使只是个人项目也值得写
- 系统学习云原生技术栈，尤其是Kubernetes和Service Mesh的原理与实操
- 深入了解大模型推理框架（如vLLM、TensorRT-LLM）和性能调优工具
- 巩固分布式系统理论，阅读经典论文，理解一致性、容错等核心概念
面试指南
- 对于系统设计类问题，采用「问题分析-方案设计-权衡取舍-案例验证」的结构
- 对于技术原理问题，从核心概念出发，结合实际场景说明
- 请描述一个你设计的高可用微服务架构，如何解决流量突发和系统降级？
- 你对Service Mesh的理解？在项目中如何使用Istio？遇到过哪些问题？
- 大模型推理场景下，如何优化长连接和流式输出的性能？
- 如何设计一个支持灰度发布的网关？
- 你对分布式共识算法（如Raft、Paxos）的理解？
- 复习Golang/Java并发编程、网络编程和性能优化技巧
匹配度报告
72
综合匹配度
大厂核心AI基础设施岗，前沿技术栈，薪资优厚，但工作强度大、WLB一般。
适合人群
适合极度看重技术成长和职业发展，对薪资和福利有较高要求，能接受一定工作强度的求职者。
最强匹配
成长发展匹配
最弱匹配
工作生活匹配
薪资福利80
成长发展95
工作生活45
使命价值70
薪资福利匹配
80较高
字节跳动薪资具有竞争力，福利完善（五险一金、补充医疗等），但未明确年终奖范围，且工作地点北京，生活成本较高。
薪资信号未披露（AI估算：30K-55K/月）
成长发展匹配
95较高
岗位涉及前沿AI基础设施和云原生技术，技术栈先进，成长空间大。JD未明确提及晋升通道，但字节跳动内部晋升体系成熟。
技术前沿前沿/新兴技术
技术栈Service Mesh、Kubernetes、大模型推理、多模态、Golang、Istio
业务类型profit_center
工作生活匹配
45较低
仅现场办公，未提及弹性工时和远程。字节跳动工作强度较大，WLB一般。
工作模式仅现场办公
办公地点市区核心地段
加班情况未提及（无法判断）
使命价值匹配
70中等
AI基础设施属于高速增长赛道，社会影响力中等（技术赋能行业），但JD中未强调使命感。
行业发展高速增长赛道
社会影响中性/一般
创新程度积极采用新技术
Watch Jobs