英特尔
Senior Lead AI Systems and Performance Architect – LLM Inference
Senior Lead AI Systems and Performance Architect – LLM Inference
发布于 2 小时前普通员工/个人贡献者
全职员工混合式弹性办公架构师
架构师
Hbm
Llm Inference
Performance Modeling
Tensorrt-Llm
Vllm
值不值得投
87综合评分
综合评分 87
前沿AI芯片架构岗、技术成长空间极大、薪资优厚且支持混合办公，适合追求技术深度的资深专家。
从薪资福利、成长发展、工作生活和使命价值四个维度综合评估，方便横向比较。
薪资怎么样
8万
比架构师中位数高
发布情况
新岗位 · 今天发布
公司情况
这家公司招聘很活跃
25 个在招
市场机会
选择面较广
上海 · 架构师 · 约 120 个在招
职位详情
关于这个职位
该职位负责领导端到端LLM推理仿真平台的技术方向与系统级分析，通过动态轨迹重放和全系统瓶颈分析，为英特尔未来的AI推理SoC和平台架构提供工程指导
你需要构建离散事件仿真平台，评估GPU优化、CPU卸载及内存子系统，并将仿真结果转化为架构建议
最低要求
学历：计算机科学、计算机工程、电气工程或相关定量领域的博士或硕士学位
经验：博士需4-6年以上经验（或硕士6-8年以上，或本科8-10年以上），涉及系统性能建模、计算机架构或AI系统工程
仿真与建模：具备开发或使用离散事件、轨迹驱动或分析性能仿真器的实际操作经验
性能分析：在多加速器/异构环境中，拥有识别计算、内存和互连性能瓶颈的成功记录
编程：精通 Python 和 C++ (14/17/20)，具备模块化软件设计和自动化数据处理经验
工作职责
仿真平台与工作流领导：
技术所有权：领导离散事件仿真平台的技术方向和持续演进，对分布式多加速器推理系统进行建模
服务栈建模：对关键服务机制进行建模，如连续批处理、分块预填充、预填充-解码解耦和动态 KV 缓存分配
结构与管道抽象：集成扩展互连（UALink、PCIe Gen 6/7）的行为模型，捕获延迟、仲裁和集合通信（All-to-All、All-Reduce）
工作流自动化：设计自动化仿真管道，以摄取经验加速器性能表、执行参数扫描并分析结果
动态轨迹重放与瓶颈分析：
生产轨迹重放：驱动真实生产轨迹的摄取和重放，捕获到达突发性、不同的提示/输出分布和共享前缀上下文
代理工作负载建模：使仿真器与新兴模式保持一致，特别是代理工作流（多步工具调用、状态分支）和长上下文 KV 缓存需求
根因隔离：进行敏感性分析，以隔离计算吞吐量、内存带宽、总线延迟、扩展结构争用或调度开销方面的瓶颈
指标评估：评估 SLO（TTFT、TPOT、ITL、队列等待时间）与集群吞吐量、功耗和成本之间的权衡
硬件/软件协同设计与平台建议：
硅架构输入：将发现转化为 AI SoC 团队的架构提案，定义平衡的计算与内存比率、SRAM 大小和接口配置
平台优化：评估主机 CPU 在推理管道中的作用，以识别卸载机会（编排、分词、路由、分层 KV 缓存暂存）
内存层次结构 sizing：提供基于工作负载的容量和带宽建议，评估 HBM/LPDDR 与分层系统内存
团队领导与协作：
指导与质量：在仿真方法、代码质量、模型校准和实验严谨性方面指导团队成员
跨团队对齐：与硅架构师、软件工程师和平台团队合作，将架构问题转化为结构化的仿真研究
优先资格
AI 服务框架：了解 LLM 服务运行时（如 vLLM、TensorRT-LLM、SGLang）及机制（PagedAttention、连续批处理、推测解码）
互连与网络：了解加速器互连，特别是 UALink、PCIe Gen 6/7、CXL 或高性能网络（RoCEv2、Ultra Ethernet）
异构协同设计：具备评估主机-加速器分区、CPU辅助流水线或分层内存架构的经验
工作负载特征分析：具备分析和重放生产轨迹遥测数据（多轮对话、MoE路由、Agentic工作流）的经验
技术领导力：有领导技术项目、推动团队达成共识和指导工程师的成功记录
AI 洞察
优缺点分析
优点
- 处于AI硬件与系统架构的最前沿，能直接影响下一代AI芯片的设计
- 平台大，资源充足，能接触到最真实的LLM生产级工作负载和顶尖的互连技术
- 混合办公模式提供较好的工作生活平衡
- 技术门槛极高，需要同时具备深厚的软件栈（LLM Serving）和底层硬件（内存、互连、SoC）知识
- 跨团队沟通成本高，需要将复杂的仿真结果转化为硬件架构师能理解的工程建议
- 适合具备深厚计算机体系结构背景、对AI大模型底层推理机制有深入研究，且渴望在AI芯片与系统协同设计领域发挥核心作用的资深技术专家
缺点 / 挑战
暂无明显挑战项
角色解读
- 可向首席架构师、AI系统技术总监方向发展
- 深入参与下一代AI芯片的核心架构定义，成为AI硬件与系统协同设计领域的顶尖专家
- 负责构建和维护端到端LLM推理仿真平台，通过离散事件仿真和动态轨迹重放，分析多加速器系统的性能瓶颈
- 评估GPU优化、CPU卸载及内存子系统，为英特尔未来的AI推理SoC和平台架构提供数据驱动的硬件/软件协同设计建议
- 精通Python和C++，具备离散事件仿真器开发经验
- 深入理解LLM推理机制（如vLLM、PagedAttention）及底层硬件互连（PCIe、UALink）
- 拥有在多加速器/异构环境中进行系统级性能分析和瓶颈定位的实战经验
申请策略
- 准备一份关于“如何通过系统级仿真优化LLM推理TCO”的简短技术分享或文档，在面试中展示你的系统性思维和技术深度
- 突出在离散事件仿真、性能建模或AI系统架构方面的核心项目经验
- 详细列出对LLM推理框架（如vLLM）底层机制的理解及优化经验
- 展示使用Python/C++进行大规模数据处理和自动化仿真管道建设的成果
- 深入学习最新的LLM Serving技术（如Agentic workflows、长上下文KV cache管理）
- 熟悉新型加速器互连标准（如UALink、CXL）及其对系统性能的影响
面试指南
- 采用“背景-挑战-行动-结果”框架
- 先明确系统约束和SLO目标，然后从计算、内存、互连三个维度拆解瓶颈，最后给出具体的软硬件协同优化方案及量化收益
- 请描述你过去开发或使用离散事件仿真器解决复杂系统性能瓶颈的具体案例
- 在LLM推理中，连续批处理和PagedAttention是如何影响内存带宽和计算吞吐量的？
- 如果仿真结果显示TTFT和TPOT无法同时满足SLO，你会从哪些硬件和软件层面提出优化建议？
- 如何评估主机CPU在推理管道中的卸载机会？
- 复习LLM推理的核心指标（TTFT, TPOT, ITL）及其与硬件资源（HBM带宽、算力、互连延迟）的映射关系
- 了解英特尔最新的AI加速器架构（如Gaudi系列）及其在推理场景下的特点
职位点评
薪资福利85
成长发展95
工作生活80
使命价值85
薪资福利
85较高
作为资深技术专家岗位，薪资水平处于市场高位，且外企通常提供完善的福利体系和较好的稳定性。
薪资信号未披露（AI估算：6千–10万/月）
成长发展
95较高
岗位处于AI芯片与系统架构的最前沿，能深度参与下一代AI SoC的定义，技术成长空间极大。
技术前沿前沿/新兴技术
技术栈LLM Inference、Discrete-Event Simulation、vLLM、TensorRT-LLM、UALink、PCIe Gen 6/7、CXL、HBM
成长机会Mentorship and Quality、Guide team members
业务类型ambiguous
工作生活
80较高
明确提供混合办公模式，允许员工在现场和远程之间分配时间，工作灵活性较高。
工作模式混合式弹性办公
办公地点未明确
加班情况未提及（无法判断）
使命价值
85较高
致力于开发高性能加速AI平台，推动AI基础设施的发展，对AI行业的普及和进步有积极的社会价值。
行业发展高速增长赛道
社会影响中性/一般
使命信号developing the future of high-performance accelerated AI platforms
创新程度积极采用新技术
英特尔 的其他在招职位
相似职位推荐
Watch Jobs