系统软件架构资深研究员

优缺点分析

角色解读

• 技术专家路线：深耕AI系统架构，成为领域内的技术权威，主导复杂项目
• 架构师路线：向更上层的平台架构、解决方案架构师发展，影响更大技术体系
• 技术管理路线：凭借深厚技术背景，转向研发团队的技术管理岗位
• 设计并实现支撑大模型推理的分布式计算平台，优化系统性能与效率
• 深入研究AI芯片（GPU/NPU）特性，与硬件团队协同进行软硬件联合优化
• 将前沿的推理基础设施研究成果转化为可落地的产品或解决方案，服务于公司AI业务
• 扎实的计算机体系结构和异构计算知识，熟悉AI硬件生态
• 精通C++/Python及Linux环境开发，具备高性能系统编程能力
• 深入理解主流大模型架构、算法及推理框架（如vLLM），有实际调优或部署经验

申请策略

• 在求职信中，清晰阐述你对大模型推理系统挑战的理解，以及你认为可以从哪些角度进行创新
• 可以准备一个关于如何优化特定模型推理性能的简要分析案例，在面试中展示你的思考深度
• 突出与AI推理、分布式系统、高性能计算相关的项目经验，特别是涉及GPU/NPU编程和优化的部分
• 详细描述参与的大模型推理平台或基础设施项目，说明个人贡献及取得的性能提升效果
• 列举对vLLM、SGLang等推理框架的深度使用或研究经验，以及对Deepseek等模型结构的理解
• 如有Linux内核、驱动或PCIe相关的项目经验，可作为亮点单独列出
• 深入研读大模型推理框架（如vLLM）源码，理解其核心设计与优化技术
• 系统学习计算机体系结构，特别是现代AI加速器（如NVIDIA GPU）的编程模型和性能特性

面试指南

• 使用STAR原则（情境-任务-行动-结果）清晰阐述过往项目经历，突出技术决策和量化成果
• 结合具体框架和模型，从系统设计、资源调度、算子优化、内存管理等角度分析问题
• 展示系统设计思维，考虑可扩展性、可维护性、成本效益等多个维度，并用数据或指标支撑
• 从软件栈（编译器、运行时、内核驱动）、算法优化、硬件特性利用等多层次回答，体现系统视野
• 体现结构化思考：先明确目标和约束，再调研技术现状，然后制定适配路线图，最后评估验证方法
• 请介绍一个你参与过的高性能计算或分布式系统项目，你在其中扮演什么角色，遇到了哪些主要挑战，如何解决的？
• 你对目前主流大模型推理框架（如vLLM）的架构有何理解？它有哪些性能瓶颈，你有什么改进思路？
• 如何设计一个支持多模型、多用户的弹性推理服务集群？需要考虑哪些关键指标（如延迟、吞吐、成本）？