科大讯飞
推理引擎工程师(J14427)
推理引擎工程师(J14427)
发布于 3 小时前普通员工/个人贡献者
全职员工仅现场办公算法优化工程师
算法优化工程师
Cuda
Onnx Runtime
Tensorrt
大语言模型
性能优化
推理优化
深度学习
量化压缩
值不值得投
74综合评分
综合评分 74
技术前沿、成长性强、薪资未披露、WLB不确定
从起薪待遇、成长路径、工作节奏和岗位方向综合评估，方便比较职业起点。
薪资怎么样
12K
比算法优化工程师中位数低
发布情况
新岗位 · 今天发布
公司情况
这家公司招聘很活跃
约 220 个在招 · 其中算法优化工程师 4 个
职位详情
关于这个职位
该职位负责设计与研发模型推理引擎，将深度学习模型和小尺寸大语言模型工程化为高性能C++推理库与服务，支撑端云多场景部署
同时进行模型转换、算子适配与推理性能优化，并参与下一代推理引擎的预研工作，如大语言模型和多模态模型部署
最低要求
学历专业：计算机、软件工程、人工智能、电子信息、数学等相关专业本科及以上
专业基础：具备扎实的 C++ 功底（现代 C++、内存管理、多线程与并发），熟悉 Python 及 C++/Python 混合编程的基本方式（如 pybind11）
理解深度学习基础原理（Transformer 结构、前向计算流程），了解模型推理的基本概念（算子、计算图、量化、KV Cache），具备性能与精度问题分析的基础能力
核心能力与经验：有 ONNX Runtime/TensorRT/llama.cpp/vLLM 等推理框架的使用或源码阅读经历，或 CUDA/SIMD 性能优化、模型量化部署相关的课程项目、竞赛、开源贡献、实习经历者优先
掌握 AI 编程工具在研发中的应用，能够借助 AI 辅助编写代码、分析性能数据、协助问题排查
综合素质：具备性能剖析与精度对齐问题的分析、定位和复盘能力（会使用 profiler 定位热点，能排查工程实现与原型间的数值差异），逻辑清晰
重视工程质量与交付稳定性，做事严谨细心，能够独立承担模块级设计、开发与交付
学习与创新能力：对推理加速、MoE 与多模态模型部署、端侧推理等方向感兴趣，主动追踪论文与开源社区前沿进展，愿意持续学习新技术
具备良好跨团队沟通能力，可配合算法研究员完成模型从原型到量产的落地
职业素养：对 AI 基础软件与极致性能优化有热情，认同推理引擎作为模型能力落地核心载体的价值，乐于尝试新的技术思路，参与推理引擎体系与工具链建设
工作职责
负责模型推理引擎的设计与研发，将算法团队交付的 Python 模型代码与模型权重（深度学习模型、小尺寸大语言模型）工程化封装为高性能 C++ 推理库与服务，支撑端云多场景部署与产品集成
负责模型转换、算子适配与推理性能优化（量化压缩、计算图优化、显存管理、批处理调度），保障工程实现与算法原型的精度对齐，达成时延、吞吐、成本目标，跟进问题闭环
参与面向 30B 级 MoE 大语言模型与多模态模型的下一代推理引擎预研（专家并行、KV Cache 管理、投机解码、多模态编码器融合等），应用 AI 工具赋能研发，提升工程效能
优先资格
有 ONNX Runtime/TensorRT/llama.cpp/vLLM 等推理框架的使用或源码阅读经历，或 CUDA/SIMD 性能优化、模型量化部署相关的课程项目、竞赛、开源贡献、实习经历者优先
AI 洞察
优缺点分析
优点
- 技术前沿，深入AI推理核心领域
- 科大讯飞平台提供丰富资源和应用场景
- 技能积累深厚，提升系统工程和性能优化能力
- 技术难度高，需持续学习前沿论文和开源进展
- 可能涉及复杂跨团队协作
缺点 / 挑战
- 性能优化压力大，需平衡精度、时延和成本
- 适合对AI系统工程和性能优化有热情，具备扎实C++和深度学习基础，喜欢挑战技术难题的求职者
角色解读
- 从初级工程师成长为高级推理引擎专家，或转向算法研究、系统架构师、技术管理岗位
- 也可深耕AI基础设施领域，参与开源社区建设
- 设计和开发高性能C++推理引擎，将深度学习模型转化为可部署的库和服务
- 进行模型转换、算子适配和推理性能优化，确保精度和效率
- 参与下一代大语言模型和多模态模型推理引擎的预研工作
- 精通C++编程和内存管理
- 掌握深度学习基础原理和推理优化技术
- 熟悉推理框架如ONNX Runtime或TensorRT
- 具备性能分析和问题排查能力
申请策略
- 了解科大讯飞AI产品和技术方向
- 准备面试中关于推理引擎设计和优化的问题
- 展示对前沿技术的热情和学习能力
- 突出C++项目经验和性能优化案例
- 展示深度学习模型部署或推理框架使用经历
- 强调参与过的竞赛、开源贡献或实习成果
- 提升CUDA编程和并行计算能力
- 学习模型量化、压缩等推理优化技术
面试指南
- 使用STAR法则（情境、任务、行动、结果）描述项目经验
- 结合具体技术细节展示深度理解
- 强调分析和解决问题的能力
- 如何优化模型推理性能以减少时延？解释Transformer中KV Cache的作用和管理方法？描述你使用过的一个推理框架及其优势？如何平衡模型量化后的精度与效率？
- 复习C++多线程、内存管理和性能分析工具
- 深入阅读Transformer架构和推理优化相关论文
- 实践使用推理框架如TensorRT进行模型部署
职位点评
薪资福利70
成长发展85
工作生活60
使命价值75
薪资福利
70中等
该职位为校招岗位，薪资水平可能处于市场中等，但JD未披露具体薪资和福利，补偿性动机满足程度一般。
薪资信号未披露（AI估算：8千–1.5万/月）
成长发展
85较高
职位涉及前沿AI推理技术，JD强调学习创新和追踪前沿，提供良好的技能成长和晋升机会，发展性动机满足程度较高。
技术前沿前沿/新兴技术
技术栈C++、CUDA、推理引擎、大语言模型、量化压缩
成长机会主动追踪论文与开源社区前沿进展、愿意持续学习新技术、具备良好跨团队沟通能力
业务类型ambiguous
工作生活
60中等
JD未提及办公模式、工作时间或WLB相关信息，生活化动机满足程度有限，工作强度可能较高。
工作模式未明确
办公地点未明确
加班情况未提及（无法判断）
使命价值
75中等
AI推理引擎是模型落地关键，行业前景好，但JD未明确提及社会使命或影响力，意义感动机满足程度中等。
行业发展高速增长赛道
社会影响中性/一般
创新程度积极采用新技术
科大讯飞 的其他在招职位
相似职位推荐
Watch Jobs