字节跳动
电商MaaS平台研发工程师-TikTok Shop
电商MaaS平台研发工程师-TikTok Shop
发布于 大约 17 小时前普通员工/个人贡献者
上海市
高级经验
全职员工
仅现场办公
本科
分布式系统
GO
LLM
FinOps
大模型
GPU调度
Maas
AI 估算 · 40k–60k
字节跳动高级工程师级别，MaaS平台涉及大模型和分布式架构，人才稀缺，薪资具备竞争力。
职位详情
关于这个职位
这个职位是字节跳动TikTok Shop的电商MaaS平台研发工程师，负责设计和构建大模型服务平台LumiRouter
你将主导平台架构、智能路由与调度系统、成本管控与FinOps体系建设，以及GPU资源管理，支撑电商场景下的大模型应用，如搜索推荐、客服和内容生成
最低要求
本科及以上学历，计算机、软件工程、人工智能等相关专业，5年以上分布式系统、云服务或大模型平台开发经验
深入理解MaaS（模型即服务）平台架构，有大模型网关、推理服务平台、AI中台相关建设经验优先，熟悉LLM/VLM/AIGC等主流模型的部署与服务化流程
扎实的分布式系统设计功底，精通至少一种主流后端语言（Go/Java/Python），有高并发、低延迟系统设计与性能优化经验，熟悉微服务架构、服务治理、可观测性体系建设
熟悉大模型推理相关技术，了解vLLM/SGLang/TensorRT-LLM等主流推理引擎，有GPU集群调度、资源管理、FinOps成本优化相关经验优先
具备优秀的业务理解力与跨团队协作能力，能够深入理解电商场景需求，推动复杂项目落地，有电商行业相关经验优先
具有强烈的技术热情与自驱力，能够主动发现并解决问题，具备良好的团队管理能力
工作职责
平台规划与架构设计：负责MaaS平台（LumiRouter）的整体技术规划、架构设计与演进路线图制定，确保平台在功能、性能、稳定性及成本控制上具备业界领先水平
统一接入与智能调度体系建设：主导建立标准化的模型与算子接入流程，推动集团内（如ModelHub、火山方舟）及多云多源模型的统一纳管，持续优化平台易用性与开发者体验，实现新模型/业务的分钟级接入与自助化管理
设计并实现高效的智能路由与调度系统，基于业务SLA、负载状况、KV Cache亲和性等特征动态调度请求，最大化模型复用率，探索落地语义理解智能路由策略，构建自动化多层级Fallback与模型降级机制，系统性提升业务韧性
成本管控与FinOps体系建设：建立精细化的成本度量与归因体系，实现Token粒度的计费与可视化，构建完善从预算、监控、分析到优化的FinOps闭环，为业务提供透明成本看板并驱动成本持续优化
资源与稳定性保障：从全局视角规划和管理电商的GPU资源，建立多租户的Quota管理与弹性伸缩机制，负责平台核心SLA，建设全链路可观测性（监控、告警、Tracing）与自动化治理能力，保障平台99.99%可用性
全生命周期管理、合规治理与跨团队协同：定义并落地模型/算子的全生命周期管理规范，覆盖从引入、评测、上线、监控到下线的完整流程，与安全、法务团队紧密合作，确保所有通过平台提供的模型与服务均满足数据安全与合规要求
与底层推理框架（如MixInfer）、模型中台（如ModelHub）、云平台及众多业务方紧密协作，确保端到端链路顺畅高效，积极布道平台能力，推动存量业务（如LLM-studio）向MaaS迁移，提升平台覆盖率
优先资格
加分项
有过亿级流量大模型服务平台建设经验，熟悉主流云厂商MaaS产品架构与实现原理
参与过大模型训练/推理基础设施建设，有Kubernetes、GPU调度、分布式存储相关经验
有电商行业AI应用落地经验，熟悉搜推、客服、内容生成等电商场景的大模型使用需求
有开源社区贡献经历或相关技术领域论文发表经历
AI 洞察
优缺点分析
优点
- 接触前沿的MaaS和大模型技术栈，技术积累价值高
- 字节跳动头部平台，项目影响力大，对职业生涯背书强
- 技术要求全面且深入，需要同时掌握分布式系统、AI推理和成本优化等多领域知识
- 电商业务对稳定性和成本敏感，工作强度可能较大
- 跨团队协作频繁，沟通协调成本高
- 适合具备5年以上后端或AI基础设施经验、对技术有热情、希望在超大流量场景下深耕的技术专家
缺点 / 挑战
- 负责核心平台建设，具备较高的自主权和创新空间
角色解读
- 技术纵深发展：成为大模型基础设施领域的专家，主导平台架构迭代
- 管理方向晋升：向技术Leader或架构师岗位发展，带领团队攻克更大挑战
- 横向扩展：深入理解电商业务，转型为AI+业务复合型人才，参与战略决策
- 设计并构建电商MaaS平台LumiRouter的整体架构，包括模型接入、智能路由、成本管控等模块
- 主导大规模GPU集群的资源调度与稳定性保障，确保99.99%可用性
- 协同多个团队推动模型全生命周期管理及MaaS平台在各业务线的落地
- 精通分布式系统设计与开发，熟练掌握Go/Java/Python等语言
- 深入理解大模型推理技术栈，如vLLM、TensorRT-LLM，并有实际GPU调度经验
- 具备FinOps成本优化和可观测性体系建设能力
- 优秀的跨团队协作和复杂项目推动能力
申请策略
- 准备一个与平台架构设计相关的项目案例，体现系统思维
- 展示对电商业务场景的理解，比如搜索推荐、客服等
- 突出分布式系统设计和高并发优化项目经验，尤其是大模型推理或MaaS相关
- 强调GPU资源管理或FinOps实践案例，展示成本控制能力
- 如果有电商行业AI应用经历，务必重点描述
- 提及开源贡献或技术论文，增加技术深度证明
- 如果未接触大模型推理框架，提前学习vLLM、SGLang等工具
- 补充Kubernetes和GPU调度相关知识
面试指南
- STAR法则：情境、任务、行动、结果，清晰展示项目背景和你的贡献
- 技术选型对比：分析不同方案的优缺点，体现权衡决策能力
- 业务驱动思维：从业务需求出发，说明技术决策如何支撑业务目标
- 请描述你设计过的分布式系统架构，如何保证高可用和低延迟？
- 大模型推理服务中，如何优化KV Cache以实现更高吞吐？
- 如何进行GPU资源调度和成本控制？请举例说明
- 如果要设计一个MaaS平台，你会考虑哪些核心模块？
- 你如何看待电商场景下大模型的应用挑战？
匹配度报告
70
综合匹配度
大厂核心AI平台，前沿技术栈，薪资优厚，但工作强度可能较大。
适合人群
适合追求技术成长和丰厚回报、能接受一定工作强度的求职者。
最强匹配
成长发展匹配
最弱匹配
工作生活匹配
薪资福利80
成长发展90
工作生活40
使命价值70
薪资福利匹配
80较高
字节跳动作为上市大厂，薪资待遇在行业内具有竞争力，但JD未明确具体福利，需面议确认。
薪资信号未披露（AI估算：40K-60K/月）
成长发展匹配
90较高
该职位聚焦前沿的MaaS和大模型技术，技术栈新，成长空间大，但JD未明确提及晋升路径。
技术前沿前沿/新兴技术
技术栈MaaS、大模型、LLM、vLLM、SGLang、TensorRT-LLM、Kubernetes、GPU调度、FinOps
业务类型profit_center
工作生活匹配
40较低
JD未提及远程或弹性工作，仅上海办公，结合互联网大厂惯例，WLB一般。
工作模式未明确
办公地点未明确
加班情况未提及（无法判断）
使命价值匹配
70中等
电商AI领域属于高速增长赛道，但社会影响力一般，技术创新性强。
行业发展高速增长赛道
社会影响中性/一般
创新程度积极采用新技术
Watch Jobs