K8s 运维开发（云原生方向）· 稳定性与资源效率方向

优缺点分析

角色解读

• 技术深度上，可成为AI基础设施领域专家，专注于大规模推理系统的性能与架构创新
• 技术广度上，可向平台架构师方向发展，统筹计算、网络、调度等多个子系统
• 管理路径上，可带领小团队负责特定模块或平台的整体规划与落地
• 构建和维护服务于大模型的统一API网关与流量治理平台，确保百万级QPS下的稳定性和多租户安全
• 设计并实现智能动态路由系统，基于实时推理性能指标进行精准流量调度，最大化资源利用率
• 负责大规模LLM推理集群的弹性伸缩、容灾设计与成本优化，应对业务波峰波谷
• 精通Go或Python，并有高并发、分布式系统的设计与性能调优实战经验
• 深入理解LLM推理技术栈（如vLLM、SGLang）及其核心概念（KV Cache, Batching），并能将其应用于工程调度
• 熟悉Kubernetes及云原生网关（Envoy/APISIX等）生态，具备在复杂云环境中构建可靠平台的能力

申请策略

• 面试前研究米哈游的主要AI产品（如游戏AI、大模型应用），思考该基础设施如何支撑这些业务场景
• 准备关于“如何设计一个高性能、低成本的LLM推理平台”的系统设计思路，这是面试的核心
• 突出在Go/Python下构建高并发、高可用网关或调度系统的具体项目与性能数据
• 详细描述对LLM推理技术（vLLM/SGLang）的理解及实际应用经验，如优化调度策略、降低延迟等
• 列举使用Kubernetes及Envoy/APISIX等云原生组件解决实际问题的案例
• 深入研读LLM推理框架（vLLM, SGLang）源码及官方文档，理解其底层调度逻辑
• 实践构建一个简单的AI API网关，集成路由、限流、鉴权功能，加深对架构的理解

面试指南

• 系统设计类问题采用‘分层架构’思路：从接入层、调度层、执行层到监控层，逐层阐述关键设计点和技术选型
• 技术细节类问题紧扣‘问题背景-核心挑战-解决方案-效果量化’的逻辑进行回答，展现深度思考和工程落地能力
• 主动关联JD：将回答与JD中提到的关键词（如KV Cache水位、PD分离、Scale-to-Zero）相结合，展示匹配度
• 请描述一个你设计的基于动态指标的流量调度系统，核心算法和数据结构是怎样的？如何保证调度的实时性和准确性？
• 在面对LLM推理中TTFT（首Token延迟）优化时，你会从哪些方面入手？Prefix Cache亲和路由具体是如何实现的？
• 如何设计一个支持多租户、具备弹性伸缩能力的LLM推理平台？请从架构层面谈谈你的想法
• 当推理服务出现集群级故障时（如某批GPU卡异常），你的系统如何实现自动化的故障切换与请求重试？
• 梳理并复盘自己过往项目中与高并发、流量调度、Kubernetes运维相关的核心技术细节和架构图