AI推理平台-百炼平台工程技术专家/高级工程师-北京/杭州

优缺点分析

角色解读

• 在AI基础设施领域深耕，成为大模型推理平台的技术专家，主导核心架构演进
• 向技术管理方向发展，带领团队负责更大规模的AI基础设施平台建设
• 在阿里内部跨团队流动，接触更多AI前沿业务，如大模型应用、云原生等
• 负责MaaS推理平台及大模型应用系统的架构设计与建设，打造高性能、低延迟、高吞吐的推理基础设施
• 设计和实现推理服务核心模块，包括请求调度、批处理优化、上下文管理等，提升系统性能和资源利用率
• 建设大规模模型服务平台，涵盖模型部署、服务治理、流量调度、容量管理、弹性伸缩等能力
• 推动DevInfra能力建设，完善CI/CD、灰度发布、可观测性、异常诊断等基础设施
• 扎实的计算机基础，深入理解操作系统、计算机网络、数据结构、算法及分布式系统
• 熟练掌握C++、Go、Java、Python等至少一种主流编程语言，具备复杂系统设计开发能力
• 熟悉Linux、云原生及分布式系统技术，了解Kubernetes、容器、微服务、服务治理等
• 具备良好的性能分析与问题定位能力，有AI基础设施或大模型平台研发经验者优先

申请策略

• 了解阿里云百炼平台的产品和技术方向，在面试中展现对业务的思考
• 准备一个能体现你系统设计能力和性能优化能力的项目案例，并深入讲解
• 突出大模型平台或AI基础设施相关项目经验，如模型推理优化、大规模分布式系统设计
• 强调在C++/Go/Java等语言上的深度使用，以及Kubernetes、容器等云原生技术的实践经验
• 展示在性能优化、故障排查、系统稳定性保障方面的具体案例和成果
• 如有顶级会议论文、ACM/ICPC获奖经历或开源项目贡献，务必重点突出
• 系统学习AI推理引擎（如vLLM、TensorRT-LLM）的原理和优化方法
• 深入了解Kubernetes、容器化技术，掌握大规模集群管理

面试指南

• 回答技术设计问题时，可按照需求分析、架构设计、关键技术选型、性能优化、监控与运维的框架进行
• 回答项目经验时，使用STAR法则（情境、任务、行动、结果），突出你的技术决策和量化成果
• 回答系统调优问题时，强调你的分析思路、工具使用和优化效果
• 如何设计一个高吞吐、低延迟的大模型推理平台？
• 在分布式系统中，如何实现高效的请求调度和批处理优化？
• 你如何对Kubernetes集群进行性能调优和故障排查？
• 请介绍一个你主导的复杂系统设计项目，并说明你如何解决关键技术难点
• 如何保证模型服务的高可用性和弹性伸缩？