推理Infra开发工程师，系统及infra模块

优缺点分析

角色解读

• 技术深耕：成为AI Infra或高性能计算领域的资深专家/架构师
• 技术管理：带领小团队负责特定模块或产品的技术方向与落地
• 横向拓展：向AI平台、MLOps、云计算等更广泛的平台型技术领域发展
• 设计、开发并持续优化大模型推理平台的核心引擎与调度模块
• 负责大规模GPU集群的资源管理与服务部署，提升计算资源利用率
• 参与系统架构设计与技术评审，确保基础设施的高性能与高可用
• 跟踪云原生、AI Infra领域前沿技术，并推动其在实际工程中的落地
• 扎实的Go或Rust编程能力，深刻理解并发与异步模型
• 对分布式系统原理、容器化（Kubernetes）有基础理解和实践经验
• 具备系统架构思维和性能优化意识，能够独立分析和解决复杂问题
• 强烈的好奇心与学习能力，能快速掌握并应用AI Infra领域的新工具与技术

申请策略

• 仔细阅读商汤的技术博客或公开分享，了解其AI Infra的技术栈与关注点，并在面试中体现你的了解与思考
• 在申请材料或面试中，明确表达你对AI Infra领域的热情和长期职业规划
• 突出使用Go/Rust进行高性能后端或基础设施开发的项目经验
• 量化展示在分布式系统设计、性能优化（如降低延迟、提升吞吐、资源利用率）方面的成果
• 列举与Kubernetes、Docker、GPU编程、或任何大规模系统相关的实践经验
• 如有开源贡献（尤其是AI Infra相关项目）、技术博客或深度技术总结，务必强调
• 深入学习一种主流的LLM推理框架（如vLLM），理解其架构与优化点
• 系统复习分布式系统核心概念（CAP、一致性、调度算法等）和Kubernetes工作原理

面试指南

• STAR法则：清晰描述项目背景(Situation)、你的任务(Task)、采取的行动(Action)和最终结果(Result)，重点突出技术决策和量化收益
• 架构思维：回答设计问题时，先明确核心目标（如高可用、低延迟），再从模块拆分、技术选型、容错机制、监控告警等维度系统阐述
• 理论联系实际：在讨论调度、性能优化等理论问题时，尽量结合你过往的具体实践经验或对业界方案（如vLLM）的理解来回答
• 请描述一个你参与过的复杂系统或基础设施项目，你在其中负责什么？遇到了哪些技术挑战，如何解决的？
• 如果让你设计一个高可用的大模型推理服务，你会考虑哪些核心组件和设计原则？
• 在资源调度场景下，如何平衡任务吞吐量、响应延迟和资源利用率？
• 你对Kubernetes的调度器（Scheduler）有什么理解？如果需要为AI负载定制调度策略，你会从哪些方面入手？
• 你如何看待AI工具（如GitHub Copilot、Claude）在系统开发中的作用？请结合你的使用经验谈谈