【2027】AI模型服务优化工程师-西安(J14451)

优缺点分析

角色解读

• 可以深耕AI系统性能优化领域，成为专注于模型推理性能调优的专家工程师
• 随着经验积累，可向测试架构师或质量保障负责人方向发展，负责更复杂的AI系统测试策略
• 结合对硬件和框架的理解，也可能转向AI平台工程师或AI基础架构开发岗位
• 设计并执行针对AI模型推理性能的基准测试与回归测试
• 构建和维护一套包含延迟、吞吐量、显存占用等关键指标的性能监控体系
• 分析性能测试数据，定位性能瓶颈，并利用CI/CD工具链保障版本发布质量
• 跟踪和管理从测试到线上发现的性能与稳定性问题，进行根因分析和知识沉淀
• 扎实的计算机基础，熟悉Linux操作系统和Python编程，能独立开发脚本和进行数据分析
• 理解软件测试、性能测试的核心概念，了解CI/CD流程和相关工具（如Jenkins、GitLab CI）
• 对AI大模型（如LLM）的推理过程、GPU资源使用、容器化部署有基本认知和兴趣
• 具备出色的逻辑思维、细节关注能力和文档撰写习惯，善于问题追踪与总结

申请策略

• 研究中科曙光在AI算力基础设施、智算中心方面的业务布局和产品，理解该岗位的价值
• 准备一个关于如何分析和解决某个性能问题（不限于AI领域）的简短案例，用于面试展示
• 详细描述参与过的性能测试、压力测试或CI/CD流水线建设项目，突出具体指标和成果
• 列出掌握的Linux、Python、测试工具（如pytest）、监控工具（如Prometheus/Grafana）等技术栈
• 如有相关经验，展示对GPU使用、容器技术或某个AI框架（如PyTorch）的基本了解或实践
• 强调在项目中发现、定位并解决复杂技术问题的案例，体现问题追踪和分析能力
• 可提前熟悉vLLM、SGLang等主流大模型推理框架的基本原理和使用方式
• 实践搭建一个简单的性能监控和可视化看板（如用Prometheus+Grafana），加深理解

面试指南

• 对于项目经验问题，使用STAR法则（情境、任务、行动、结果）结构化回答，突出你的具体贡献和量化成果
• 对于技术概念问题，先清晰解释定义，再结合实际场景说明其重要性或测试方法
• 对于方案设计类问题，展示系统化思维：明确目标指标、选择测试工具和方法、设计测试用例、确定通过标准等
• 请介绍一个你之前参与的性能测试项目，你负责了哪些部分？遇到了什么挑战？
• 你如何理解TTFT（首Token延迟）和TPOT（Token间延迟）这两个指标？
• 如果让你为一个新的大模型推理服务设计性能测试方案，你会考虑哪些方面？
• 在CI/CD流程中，如何集成性能测试作为质量门禁？
• 你使用过哪些监控工具来观察系统（如GPU）的资源使用情况？