推理架构算法工程师

优缺点分析

角色解读

• 深耕AI Infra领域，成为大模型推理架构方向的技术专家或首席架构师
• 负责更大规模或更前沿的技术平台规划，向技术总监或高级技术管理者发展
• 凭借对AI基础设施的深刻理解，可转型至AI系统架构师、解决方案架构师或前沿研究岗位
• 负责设计和构建大模型推理服务的核心架构，确保系统在高并发下实现低延迟
• 开发并优化AI原生网关、资源调度和动态路由等云原生平台核心组件
• 主导解决分布式系统中的复杂性能与稳定性问题，建立全链路监控与保障体系
• 作为技术负责人，引领团队技术方向，并指导其他成员成长，提升整体交付质量
• 精通分布式系统架构设计，具备高并发、高可用系统的实战经验
• 深入理解云原生技术栈（如容器、微服务、服务网格），有平台级能力建设经验
• 拥有AI推理（尤其是大模型）相关的技术背景，了解PD分离、KV Cache等关键技术
• 卓越的系统问题分析和定位能力，能够从复杂现象中洞察本质并提出创新解决方案

申请策略

• 在面试中，准备好讲述1-2个你主导解决的复杂系统架构或性能优化案例，使用STAR法则清晰阐述背景、挑战、行动和结果
• 主动了解京东云和京东大模型（如京东大模型言犀）的业务场景与技术布局，思考该岗位如何为其创造价值
• 展现强烈的技术好奇心和持续学习能力，以及对构建高可靠基础设施的长期承诺
• 突出主导设计或深度参与的大型分布式系统、微服务平台或高并发架构项目，强调设计思考与量化成果（如QPS提升、延迟降低）
• 详细描述在性能优化、稳定性保障、资源调度等方面的具体技术实践和解决的典型问题
• 如有云原生平台（如Kubernetes）的二次开发、AI/大模型相关的基础设施经验，应重点展示
• 体现技术领导力，如推动技术方案、指导初级工程师、进行技术分享或制定规范等经历
• 系统复习和深入研读分布式系统核心理论（如CAP、共识算法）与现代云原生架构模式

面试指南

• 对于架构设计类问题，采用“需求分析 -> 核心设计（分模块） -> 关键技术选型 -> 可能挑战与优化点”的结构回答
• 对于问题解决类问题，遵循“现象描述 -> 分析定位过程（工具、思路） -> 根因分析 -> 解决方案与效果验证”的流程
• 所有回答都应尽量结合具体数据（如提升了多少性能、节省了多少资源）来增强说服力，并展示你的技术深度
• 请描述一个你主导设计的高并发、低延迟系统架构，遇到的主要技术挑战是什么？你是如何解决的？
• 你对PD分离（Prefill与Decode分离）技术方案有何理解？在架构实现上需要考虑哪些关键问题？
• 在构建AI推理服务的高可用系统时，你会如何设计异构资源调度和动态模型路由策略？
• 请举例说明你是如何在一个复杂的分布式系统中定位并解决一个严重的性能瓶颈或稳定性问题的
• 你如何将一个模糊的业务诉求（如降低推理成本）抽象成一个具体的算法或系统优化问题？