Alibaba logo
阿里巴巴
AI推理平台-推理平台业务洞察专家-杭州/北京

AI推理平台-推理平台业务洞察专家-杭州/北京

发布于 1 小时前

普通员工/个人贡献者

AI 估算 · 3.5–6.5万 · AI 参考估算
高级经验
本科
全职员工仅现场办公数据分析与科学
数据分析与科学
Llm Serving
Maas
Sql
Trace分析
在线实验
数据建模

值不值得投

76综合评分

综合评分 76

大模型推理平台数据洞察岗,技术前沿、成长性强,办公与生活平衡信息未明确。

从薪资福利、成长发展、工作生活和使命价值四个维度综合评估,方便横向比较。

薪资怎么样

5.0万

比数据分析与科学中位数高

发布情况

新岗位 · 今天发布

公司情况

这家公司招聘很活跃

约 5160 个在招 · 其中数据分析与科学 24 个

市场机会

选择面较广

杭州 · 数据分析与科学 · 89 个在招

职位详情

关于这个职位

该岗位面向大模型推理平台,通过海量线上请求、Trace和运行指标分析,建立业务工况画像与性能归因能力

你将从真实业务场景中发现负载规律、用户体验问题和系统优化机会,并推动调度、缓存、资源效率与架构演进落地

最低要求

计算机、软件工程、数据科学、基础数学、统计学等相关专业,本科及以上学历

具备C及B端产品运营、用户增长、留存、反馈、推荐系统等领域的用户分析、流量分析、策略分析或性能优化经验,熟悉大规模在线请求、流量分布、用户行为、在线实验及策略效果评估
具备扎实的数据分析及工程能力,熟练使用 Python、SQL,熟悉大规模数据处理、统计分析和数据建模方法
对用户洞察或者分布式系统、在线服务架构及系统性能分析有一定理解,能够结合用户行为及技术原理解释数据现象,而非仅停留在指标统计和可视化
具备优秀的数据洞察和问题抽象能力,能够从复杂、海量的数据中发现规律、识别异常、提出假设,并通过实验验证
具备良好的工程实践能力,能够独立建设数据分析工具、分析流水线或自动化诊断能力
具备较强的技术好奇心、逻辑分析能力和跨团队协作能力,能够与系统研发团队共同推动技术优化和架构演进

工作职责

工况分析与业务洞察:深入分析线上真实请求的流量分布、Token 长度、并发模式、请求时序、模型调用等特征,建立 Workload 画像,挖掘不同业务场景下的负载规律、变化趋势及潜在优化机会

Trace 分析与性能归因:基于全链路 Trace 和运行指标,分析请求在路由、调度、排队、Prefill、Decode 等环节的性能表现,识别关键瓶颈,建立系统化的性能分析与归因能力
场景分析与技术机会挖掘:针对 Chat、Agent、Coding、长上下文、多轮交互等典型场景,研究请求行为、Session 特征、KV Cache 复用及资源使用模式,从真实工况中发现新的技术需求和架构优化机会
研发方向与架构演进:将数据分析结果转化为技术洞察,识别现有平台在调度、缓存、弹性、资源管理及服务架构上的系统性问题,提出优化方向,并与研发团队共同推动方案设计、落地及效果验证
性能与资源效率优化:通过数据分析和实验评估,研究不同模型、硬件、业务负载和调度策略下的性能与成本表现,推动吞吐、时延、GPU 利用率及资源效率持续提升
数据工程与分析体系建设:建设面向海量请求的工况分析、Trace 检索、异常检测、性能归因及可视化分析工具,推动分析流程自动化、标准化与工程化

优先资格

【加分项】

熟悉 MaaS领域,对LLM Serving的核心架构和工作原理等核心机制
具备基于数据洞察推动产品设计和体验优化、算法策略优化、系统架构改进、资源调度优化或技术方向探索的实际经验

AI 洞察

优缺点分析

优点

  • 岗位处于大模型推理平台和MaaS相关领域,能够积累LLM Serving、性能归因和资源效率优化等高价值经验
  • 工作内容连接真实业务工况与底层系统优化,既能理解用户需求,也能深入平台架构
  • 有机会参与海量线上请求分析、Trace体系和自动化诊断工具建设,技术场景复杂且成长空间大
  • 与研发团队共同推动优化落地,分析结论更容易转化为实际业务和技术收益
  • 面对海量请求和复杂链路,指标口径、异常归因和实验验证都要求较强的严谨性
  • 需要持续与研发、产品等多方协作,推动优化方案从洞察到落地可能周期较长
  • 适合有数据分析或平台运营背景,同时愿意深入理解大模型推理系统、分布式架构和性能优化的求职者

缺点 / 挑战

  • 需要同时具备数据分析、用户洞察和系统性能理解,跨领域知识门槛较高

角色解读

  • 可向大模型推理平台的数据洞察专家、性能分析专家或平台架构方向深入发展,成为连接业务、数据和系统研发的关键角色
  • 可拓展到MaaS平台产品策略、AI基础设施效率优化、资源调度与成本治理等方向,提升技术影响力
  • 长期可成长为技术专家或平台型负责人,主导分析体系、诊断工具和架构演进路线
  • 你会对大模型推理平台的线上请求进行建模分析,包括流量分布、Token长度、并发模式、请求时序和模型调用特征,形成Workload画像
  • 你会基于全链路Trace和运行指标定位路由、调度、排队、Prefill、Decode等环节的性能瓶颈,建立性能归因方法
  • 你会围绕Chat、Agent、Coding、长上下文、多轮交互等场景分析用户行为和资源使用模式,挖掘架构优化和产品体验改进机会
  • 你会把数据洞察转化为研发方向,与系统研发团队协作推动调度、缓存、弹性、资源管理和分析工具平台落地
  • 需要扎实的Python、SQL和大规模数据处理能力,能够完成从数据清洗、统计分析到建模验证的完整链路
  • 需要理解分布式系统、在线服务架构和LLM Serving机制,能把指标异常与技术原因关联起来
  • 需要具备业务洞察和问题抽象能力,能从海量请求中识别规律、提出假设并用实验验证
  • 需要较强的跨团队协作能力,能把分析结论转化为研发团队可执行的技术优化方案

申请策略

  • 面试前建议梳理阿里大模型推理平台或MaaS相关业务方向,理解平台性能、成本、体验之间的权衡
  • 投递时可强调自己不仅能做指标统计,还能结合技术原理解释数据现象并推动优化落地
  • 突出使用Python、SQL处理大规模数据的项目经历,尤其是流量分析、用户行为分析、在线实验或策略效果评估案例
  • 强调你从数据中发现异常或优化机会,并推动产品、算法或系统方案落地的完整闭环
  • 如有Trace分析、性能归因、在线服务架构、LLM Serving、MaaS或GPU资源效率相关经验,应放在显眼位置
  • 展示跨团队协作经历,说明你如何与研发、产品或运维团队沟通并验证优化效果
  • 补强LLM Serving基础知识,包括Prefill、Decode、KV Cache、调度、排队和推理服务架构
  • 提升Trace分析和性能归因能力,熟悉如何从全链路指标中定位瓶颈并设计验证实验

面试指南

  • 问题定位类:先明确现象和指标口径,再按请求链路分层拆解,结合Trace、日志和指标定位瓶颈,最后用实验或灰度验证结论
  • 项目经历类:按照背景、数据规模、分析方法、关键发现、推动动作和最终收益展开,重点突出从洞察到落地的闭环
  • 技术理解类:先解释机制原理,再结合业务负载说明影响因素,最后给出可量化评估指标和优化方向
  • 如果线上推理请求时延突然升高,你会如何基于Trace和指标进行定位与归因?
  • 如何为Chat、Agent、Coding、长上下文等不同场景建立Workload画像?
  • 请举例说明你如何通过数据分析发现优化机会,并推动研发或产品方案落地
  • 你如何理解LLM Serving中的Prefill、Decode、KV Cache复用和调度策略对性能的影响?
  • 面对海量请求数据,你会如何设计一套自动化异常检测或性能归因分析体系?

职位点评

薪资福利78
成长发展88
工作生活55
使命价值76

薪资福利

78中等

JD未披露薪资和福利信息,但岗位要求高级数据分析、LLM Serving理解和系统性能归因能力,技能门槛较高。对看重薪酬竞争力的求职者可能具备一定吸引力,但具体回报需与招聘方确认。

薪资信号未披露(AI估算:3.5千–6.5万/月)

成长发展

88较高

岗位围绕大模型推理平台、Trace分析、性能归因、资源效率和架构演进展开,能积累AI基础设施与数据洞察复合能力。JD还明确提到推动分析流程自动化、标准化与工程化,成长性较强。

技术前沿前沿/新兴技术
技术栈大模型推理平台、LLM Serving、MaaS、Trace、Token、KV Cache、Prefill、Decode、Python、SQL、GPU
业务类型ambiguous

工作生活

55较低

JD明确工作地点为北京/杭州,但未提及远程、弹性办公、双休或加班情况。生活化动机满足程度无法充分判断,通勤便利度取决于候选人所在城市与具体办公地点。

工作模式未明确
办公地点未明确
加班情况未提及(无法判断)

使命价值

76中等

岗位通过提升大模型推理平台的性能、稳定性、资源效率和成本竞争力,对AI基础设施能力提升有较明确价值。JD提到提升客户体验、解锁技术优化机会,但社会使命类表述相对有限。

行业发展高速增长赛道
社会影响中性/一般
使命信号提升客户体验、解锁技术优化机会、持续提升平台性能、稳定性、资源效率、成本和产品能力的竞争力
创新程度积极采用新技术
Watch Jobs