高级引擎架构师

优缺点分析

角色解读

• 技术方向：成为大模型系统工程专家，主导AI基础设施架构演进
• 管理方向：可晋升为技术经理或架构委员会成员，带领团队
• 业务方向：深入业务场景，推动AI技术落地，成为业务与技术的桥梁
• 负责大模型推理与训练工具链的搭建和优化，包括框架、服务自动化等基础设施
• 深度优化推理引擎性能，调整推理策略和调度逻辑，确保线上高并发低延时
• 跟踪业界最新AI工程实践，引入AICoding工具，提升团队研发效能
• 深入理解主流大模型架构（如Transformer）及训练/推理全流程
• 扎实的工程实现与问题分析能力，熟练使用C++、Python等语言
• 有大模型量化、推理加速、服务部署等实际经验者优先
• 具备技术热情，善于使用AICoding工具并推广分享

申请策略

• 研究科大讯飞的大模型产品（如星火大模型），了解其技术栈和业务场景
• 准备一个完整的大模型工程落地项目案例，展示从模型到服务部署的全流程
• 突出大模型训练或推理框架的研发经验，如Megatron、DeepSpeed、vLLM等
• 强调性能优化成果，如降低延迟、提升吞吐量的量化数据
• 展示AICoding工具的使用与落地案例，体现技术推广能力
• 补充大模型量化技术（如GPTQ、AWQ）和推理加速框架（如TensorRT-LLM）
• 熟悉Kubernetes和云原生部署，了解服务自动化工具

面试指南

• 对于技术原理类问题，先讲清楚基础概念，再结合实际经验说明优化手段
• 对于项目经验类问题，采用STAR法则（情境、任务、行动、结果），突出量化成果
• 请解释Transformer模型中Self-Attention的计算过程及优化方法
• 如何优化大模型推理的延迟？请举例说明常用技术
• 描述你参与过的大模型训练或推理项目，遇到的最大挑战是什么？如何解决的？
• 你如何使用AICoding工具提升研发效率？请分享具体场景
• 如何设计一个高并发低延时的大模型推理服务架构？
• 复习大模型推理优化技术，包括KV-cache、量化、批处理、算子融合等