AI研发工程师-大模型推理集群方向(J14142)

优缺点分析

角色解读

• 技术专家路线：在分布式系统、大模型推理、高性能计算等方向深耕，成为领域专家
• 架构师路线：从模块开发到系统架构设计，成长为平台架构师
• 管理路线：在技术积累基础上，可转向技术管理，带领团队负责核心业务
• 参与大模型MaaS平台的架构设计与演进，负责大规模分布式推理系统的升级与优化，确保系统的高性能和高可用
• 研发和迭代高性能基础设施，针对国产AI芯片集群进行适配与调优，提升资源利用率和运行效率
• 负责现网核心业务的可靠性建设，包括性能监控、故障定位与解决，并开发自动化运维工具
• 扎实的计算机基础，至少精通Go、Java、C++中的一种编程语言，具备优秀的编码能力
• 了解云原生和分布式系统架构，熟悉容器、Kubernetes等云原生技术
• 具备分布式系统性能分析和调优能力，熟悉故障排查方法
• 对大模型推理技术（如KVCache、推理引擎）有了解，具备AI工具协同能力

申请策略

• 关注科大讯飞的业务方向和技术博客，了解其在大模型领域的布局
• 在面试中展现对国产AI集群和推理优化的热情和思考
• 突出计算机基础课程成绩和项目经验，尤其是分布式系统、操作系统、网络相关的项目
• 强调编程语言（Go/Java/C++）的掌握程度和实际项目应用
• 如有开源项目贡献、大模型推理或国产芯片适配经验，务必重点突出
• 展示对云原生、Kubernetes等技术的理解和实践
• 提前学习大模型推理框架（如vLLM、TensorRT-LLM）和分布式训练/推理知识
• 熟悉Kubernetes和容器化技术，了解国产芯片（如昇腾、寒武纪）的适配

面试指南

• 对于项目类问题，采用STAR法则（情境-任务-行动-结果），突出个人贡献和技术难点
• 对于技术方案类问题，先阐述基本原理，再结合具体场景分析，最后给出优化思路
• 对于开放性问题，展现逻辑思维和知识广度，并联系实际应用
• 请介绍一个你参与过的分布式系统或高性能计算项目，并说明你在其中解决的问题
• 如何定位和解决分布式系统中的性能瓶颈？请举例说明
• 你对大模型推理框架（如vLLM）有哪些了解？谈谈其关键优化技术
• 在国产芯片（如昇腾）上进行模型推理优化，你会如何入手？
• 谈谈你对云原生技术（如Kubernetes）的理解，以及在大模型推理中的应用