【2027】AI模型服务优化工程师-天津(J14430)

优缺点分析

角色解读

• 可沿技术专家路径发展，深入AI系统性能优化、GPU异构计算等领域，成为性能架构师
• 可转向AI平台或MLOps工程师，负责构建更完善的大模型交付和运维体系
• 积累足够行业经验后，也可向技术管理方向发展，带领性能优化或测试团队
• 设计并执行针对AI大模型推理服务（如吞吐、时延）的性能基准测试
• 搭建和维护性能监控与自动化测试流水线，用数据量化服务表现
• 分析性能瓶颈和线上问题，推动优化措施落地并沉淀知识库
• 扎实的Linux和Python编程基础，能编写测试脚本和分析数据
• 理解软件测试、性能测试和CI/CD的基本原理与实践
• 对AI大模型推理、GPU硬件、容器化部署（如Docker/K8s）有浓厚兴趣和学习能力
• 严谨细致，善于跟踪问题、分析根因并形成清晰的文档记录

申请策略

• 研究中科曙光在高性能计算和AI基础设施领域的产品与案例，理解公司业务方向
• 在面试中，可以主动请教关于团队测试的具体模型、硬件平台以及面临的性能挑战，展现主动性与思考深度
• 突出在Linux环境下的项目经验、Python脚本处理数据的能力，以及任何与性能测试、分析相关的经历
• 展示对大模型推理框架（如PyTorch、vLLM）的了解或实践，哪怕是课程项目或个人学习
• 强调文档撰写、问题追踪的条理性，以及严谨细致的特质（可通过具体事例证明）
• 系统学习性能测试方法论，尝试使用如vLLM、SGLang等框架进行简单的模型推理并观察指标
• 熟悉CI/CD工具链（如GitLab CI, Jenkins）和监控可视化工具（如Prometheus, Grafana）的基本使用
• 阅读一些关于GPU显存优化、CUDA性能分析的基础资料，建立感性认识

面试指南

• 使用STAR法则（情境、任务、行动、结果）清晰讲述过往经历，突出你的技术决策和分析过程
• 对于技术问题，从指标（TTFT/TPOT/吞吐量）、瓶颈（GPU、显存、CPU、I/O）和优化方向（批处理、量化、算子融合）等维度有条理地展开
• 展现你的学习能力和好奇心，即使不了解的细节，也可以诚实表达并阐述自己的思考思路和学习计划
• 请描述一个你做过的性能测试或数据分析相关的项目/经历
• 你认为评估一个大模型推理服务的性能，最重要的指标有哪些？为什么？
• 你如何定位一个模型推理服务响应变慢的问题？
• 你对vLLM或SGLang这类推理框架有什么了解？
• 如果让你来设计一个AI模型推理服务的性能回归测试，你会考虑哪些方面？