【2027】AI模型服务优化工程师-昆山(J14450)

优缺点分析

角色解读

• 可向性能优化专家、SRE（可靠性工程师）或测试开发架构师方向发展
• 深入特定AI框架（如vLLM、PyTorch）和硬件平台，成为垂直领域专家
• 积累大型AI服务保障经验后，可转向技术管理或解决方案架构角色
• 设计并执行AI大模型推理性能的基准测试（Benchmark）与回归测试
• 构建和监控关键性能指标（如首token延迟、吞吐量），分析性能瓶颈
• 搭建自动化测试流水线（CI/CD），维护问题库与发布质量标准
• 扎实的Linux系统操作与Python编程能力
• 对性能测试、自动化测试原理和工具链有基础理解
• 对大模型技术栈（如GPU、容器、推理框架）有浓厚兴趣和探索欲

申请策略

• 仔细研究中科曙光在AI基础设施和算力领域的业务，理解该岗位如何支持其产品
• 准备一个能体现你分析问题、定位问题思路的小项目或案例，在面试中分享
• 突出与性能测试、自动化测试或CI/CD相关的课程项目、实习经历或开源贡献
• 展示使用Python进行数据分析、脚本开发的具体案例和成果
• 提及对Linux、GPU、容器等概念的了解或实践经验，即使是学习项目也可
• 系统学习性能测试方法论和常用工具（如Prometheus监控、性能分析器）
• 动手实践，尝试使用vLLM等框架进行简单的模型推理，并关注其性能指标
• 加强Git、Linux命令行及Shell脚本的熟练度

面试指南

• 描述项目时，遵循STAR原则：明确背景（Situation）、你的任务（Task）、采取的行动（Action，突出技术选型和思考过程）、最终结果（Result，最好量化）
• 排查问题类问题，采用结构化思维：从现象到可能原因（网络、服务、资源、依赖），再逐层假设验证，强调使用监控和日志工具
• 概念解释类问题，先准确给出定义，再结合实际场景说明其重要性或影响
• 请介绍一个你做过的性能测试或数据分析项目，如何确定指标、执行测试并得出结论？
• 如果线上服务出现响应延迟突然升高，你会如何系统地进行排查和分析？
• 你了解TTFT和TPOT分别代表什么吗？它们如何影响大模型服务的用户体验？
• 你是否了解CI/CD流水线？请描述一个理想的AI模型发布质量门禁应该包含哪些检查项？
• 回顾并梳理与性能测试、自动化测试相关的知识体系和实践经历