运维工程师（infra推理业务）

优缺点分析

角色解读

• 向高级SRE或架构师方向发展，深入底层基础设施优化
• 转向AI工程化（MLOps）专家，专注模型部署与推理加速
• 晋升为技术主管，带领团队负责更大规模的AI基础设施
• 保障AI大模型推理服务的稳定性，处理线上故障与告警
• 维护K8s/Docker等基础设施，管理服务发布与扩缩容流程
• 构建监控体系，优化GPU资源利用率与运营成本
• 协同算法与研发团队，进行性能调优与复盘改进
• 扎实的Linux系统与Shell/Python脚本能力
• 精通Kubernetes、Docker及微服务架构运维
• 熟练使用Prometheus、Grafana、ELK等监控工具
• 具备AI Infra、GPU集群或模型服务化运维经验者优先

申请策略

• 重点关注JD中提到的“推理服务”、“GPU利用率”等关键词
• 面试前了解京东科技在AI领域的最新布局与技术栈
• 准备1-2个复杂的线上故障处理案例，使用STAR法则阐述
• 突出AI/LLM相关项目的运维经验，特别是GPU集群管理
• 强调故障排查案例，展示快速定位与解决复杂问题的能力
• 列举监控体系搭建成果，如自动化巡检、告警准确率提升等
• 体现成本优化贡献，如通过资源调度节省了多少算力成本
• 深入学习Kubernetes在AI场景下的最佳实践（如Volcano等调度器）

面试指南

• 故障类：背景->现象->排查过程（日志/指标/链路）->根因->解决->复盘预防
• 技术类：现状痛点->技术方案对比->选型理由->实施细节->效果验证
• 优化类：当前瓶颈分析->多维度优化手段（代码/架构/资源）->量化收益
• 请描述一次你处理过的最复杂的线上故障，你是如何定位和解决的？
• 在Kubernetes环境中，如何优化GPU资源的分配与调度？
• 如何设计一个高可用的AI推理服务监控与告警体系？
• 面对大模型推理的高并发需求，你会采取哪些扩容策略？
• 如何平衡AI服务的性能（Latency/Throughput）与成本（Cost）？