Watch Jobs
浏览职位数据统计洞察报告招聘观察探索企业购买与订阅
我的收藏免费试用登录注册

Watch Jobs

我们专注于实时追踪各企业最新职位动态,帮助您节省求职时间,快速找到理想工作机会。

探索

  • 浏览职位
  • 数据统计
  • 洞察报告
  • 数据方法论
  • 探索企业

订阅

  • 免费试用
  • 价格方案
  • 常见问题
  • 隐私政策

关注我们

微信公众号小红书淘宝店铺

© 2026 Watch Jobs. 保留所有权利

Created by jianglicat - 讲礼猫
Watch Jobs
浏览职位数据统计洞察报告招聘观察探索企业购买与订阅
我的收藏免费试用登录注册

ByteDance logo
字节跳动
Agent Gateway高级研发工程师-Data
立即应聘

Agent Gateway高级研发工程师-Data

发布于 1 天前

普通员工/个人贡献者

北京市
高级经验
全职员工
仅现场办公
本科
软件工程
RAG
GO
TCP/IP
LLM
可观测性
高并发
高可用
MCP
API Gateway

AI 估算 · 30k–50k

字节跳动高级研发岗,AI基础设施方向,薪资具有市场竞争力,技术栈前沿。

职位详情

关于这个职位

该职位负责构建和优化字节跳动的Agent Gateway系统,这是连接AI模型与业务应用的核心基础设施

你将设计统一接入层、请求路由、协议转换等模块,并实现模型调用治理(如熔断、灰度、动态调度)以及安全权限体系
工作涉及高并发、高可用系统,需要扎实的网络编程和架构能力,适合对AI基础设施有热情的后端工程师

最低要求

计算机相关专业,本科及以上学历,2年以上后端研发工作经验

具备扎实的计算机理论基础,熟练掌握至少一种编程语言(如Go、C、C++等)
熟悉TCP/IP等常用网络协议,拥有丰富的网络编程、故障定位及性能调优经验
对网络系统和AI技术怀有持续的好奇心与钻研精神,有意愿在该领域长期深入发展
乐于从事具有挑战性的工作,具备较强的自驱能力
具备独立思考与系统化解决问题的能力,能够从0到1推动复杂项目落地

工作职责

负责Agent Gateway系统设计与研发,涵盖统一接入层、请求路由、模型适配、协议转换、流式返回、会话管理等模块

负责模型与Agent调用治理,包括路由、Fallback、灰度、熔断、限流降级,以及基于场景、成本、质量、延迟的动态调度策略
负责安全、权限与合规能力建设,包括鉴权授权、租户隔离、请求级/用户级/工具级权限治理,保障企业级调用链路安全
负责可观测性与运维诊断体系建设,包括链路追踪、日志、Metrics、Prompt/Tool调用记录,搭建质量、成本、延迟、成功率监控体系
负责平台工程化、开发者体验优化及技术演进,包括SDK、API、配置平台、调试工具建设,降低业务接入成本,推动Agent基础设施标准化
跟进LLM Gateway、MCP、Agent Runtime、PromptOps、AIOps等方向,持续提升高并发、高可用、低延迟、成本控制能力

优先资格

有API Gateway/Service Mesh/统一接入层/模型网关相关系统建设经验

有LLM应用/Agent平台/MCP/RAG/模型推理服务/模型路由实践经验

AI 洞察

优缺点分析

优点

  • 身处AI基础设施的核心岗位,直接参与大模型落地,技术成长快
  • 技术栈前沿,涉及API Gateway、Service Mesh、LLM等,市场稀缺性强
  • 工作强度大,字节跳动通常节奏较快,需要较强抗压能力
  • 技术复杂度高,需同时掌握网络、分布式系统和AI知识,学习曲线陡峭
  • 系统责任重大,任何故障都可能影响大量业务,要求严谨的工程素养
  • 适合有2年以上后端经验、对AI基础设施充满热情、喜欢攻克技术难题的工程师

缺点 / 挑战

  • 字节跳动平台大,业务场景丰富,能接触海量并发和复杂治理挑战

角色解读

  • 技术纵深:成为Agent基础设施领域的专家,深入LLM Gateway、MCP等前沿技术
  • 架构师路线:从模块负责人逐步成长为系统架构师,负责更大规模的基础设施设计
  • 技术管理:可转向技术Leader,带领团队推进AI基础设施的标准化和演进
  • 设计和开发Agent Gateway系统,包括请求路由、模型适配、协议转换等核心模块,确保AI模型的高效调用
  • 实现智能调度策略,如灰度发布、熔断降级、动态路由,优化调用成本、延迟和成功率
  • 建设企业级安全体系,包括鉴权、租户隔离、权限治理,保障调用链路安全
  • 搭建可观测性平台,通过日志、Metrics、链路追踪监控系统健康状态,并推动运维自动化
  • 扎实的编程能力,精通Go/C/C++,熟悉网络编程和TCP/IP协议栈
  • 分布式系统设计经验,掌握高并发、高可用架构模式,如限流、熔断、负载均衡
  • 对AI技术栈有了解,熟悉LLM应用、Agent框架、模型网关等概念
  • 系统化思维和从0到1的项目推进能力,能够独立解决复杂问题

申请策略

  • 提前了解字节跳动的Agent平台和内部技术博客,面试时展现对业务的关注
  • 准备一个复杂的系统设计案例,重点讲清楚权衡和决策过程
  • 突出网关或中间件相关项目经验,如自研API Gateway、Service Mesh等
  • 展示高并发系统设计案例,包括架构图、性能优化成果(如QPS提升、延迟降低)
  • 强调对AI技术的理解,如LLM调用、Agent编排、推理服务等实践
  • 体现从0到1推动项目的能力,如主导过系统重构或新模块建设
  • 深入学习Go语言和网络编程,熟悉epoll、TCP调优等底层技术
  • 了解主流开源网关(如Kong、Envoy)和AI框架(如LangChain、MCP协议)

面试指南

  • 对于系统设计题,采用「需求分析-架构分解-模块细节-权衡优化」的框架
  • 对于问题排查题,使用「现象-根因-解决方案-预防措施」的结构
  • 对于开放性问题,结合自身项目经验,突出思考过程和量化成果
  • 设计一个支持高并发、低延迟的模型网关,你会考虑哪些关键模块?
  • 如何实现动态路由策略,根据成本、延迟、质量自动选择模型?
  • 在分布式系统中,如何保证网关的可用性和数据一致性?
  • 描述一次你从0到1搭建系统的经历,遇到了哪些挑战?
  • 你对LLM Gateway和MCP协议的理解是什么?

职位点评

69
综合评分

字节跳动高级研发岗,前沿AI基础设施,技术成长极快,但工作强度大、WLB一般。

更适合这类人
最适合追求技术成长和前沿挑战的求职者,不太适合看重工作生活平衡的人。
表现最好
成长发展
相对薄弱
工作生活
薪资福利85
成长发展90
工作生活40
使命价值60

薪资福利

85较高

字节跳动提供具有竞争力的薪酬和福利,但JD未明确说明具体薪资和福利细节,整体补偿性较好。

薪资信号未披露(AI估算:30K-50K/月)

成长发展

90较高

该职位处于AI基础设施前沿,技术栈新,成长空间大,但JD未明确提及晋升或培训机制。

技术前沿前沿/新兴技术
技术栈API Gateway、Service Mesh、LLM、Agent、MCP、RAG、模型网关
业务类型ambiguous

工作生活

40较低

仅现场办公,北京核心地段,但字节跳动工作强度大,JD未提及WLB,生活体验一般。

工作模式仅现场办公
办公地点市区核心地段
加班情况未提及(无法判断)

使命价值

60中等

AI基础设施是高速增长赛道,社会影响力中性,JD未体现使命感。

行业发展高速增长赛道
社会影响中性/一般
创新程度积极采用新技术
Watch Jobs
Watch Jobs

我们专注于实时追踪各企业最新职位动态,帮助您节省求职时间,快速找到理想工作机会。

探索

  • 浏览职位
  • 数据统计
  • 洞察报告
  • 数据方法论
  • 探索企业

订阅

  • 免费试用
  • 价格方案
  • 常见问题
  • 隐私政策

关注我们

微信公众号小红书淘宝店铺

© 2026 Watch Jobs. 保留所有权利

Created by jianglicat - 讲礼猫

字节跳动 的其他在招职位

  • 客户端安全工程师

    字节跳动 · 北京市
    AI 估算 · 25k-45k
  • 区域配送商务Leader-TikTok Shop

    字节跳动 · 上海市
    AI 估算 · 50k-80k
  • 零售行业高级解决方案经理-火山引擎

    字节跳动 · 北京市
    AI 估算 · 30k-50k
  • C端内容产品设计师-生活服务(上海)

    字节跳动 · 上海市
    AI 估算 · 20k-40k
  • 云原生产品专家-微服务

    字节跳动 · 上海市
    AI 估算 · 35k-60k

相似职位推荐

  • 平台开发工程师

    中国移动 · 北京市
    AI 估算 · 20k-35k

字节跳动 的其他在招职位

  • 客户端安全工程师

    字节跳动 · 北京市
    AI 估算 · 25k-45k
  • 区域配送商务Leader-TikTok Shop

    字节跳动 · 上海市
    AI 估算 · 50k-80k
  • 零售行业高级解决方案经理-火山引擎

    字节跳动 · 北京市
    AI 估算 · 30k-50k
  • C端内容产品设计师-生活服务(上海)

    字节跳动 · 上海市
    AI 估算 · 20k-40k
  • 云原生产品专家-微服务

    字节跳动 · 上海市
    AI 估算 · 35k-60k

相似职位推荐

  • 平台开发工程师

    中国移动 · 北京市
    AI 估算 · 20k-35k