京东
语音引擎工程师（ASR工程）
语音引擎工程师（ASR工程）
发布于 大约 14 小时前普通员工/个人贡献者
北京市
高级经验
全职员工
仅现场办公
本科
算法优化工程师
Asr
Cuda
Onnx Runtime
Tensorrt
Tensorrt-Llm
Vllm
模型量化
AI 估算 · 30k–50k
职位详情
关于这个职位
作为京东科技的语音引擎工程师，你将专注于语音识别（ASR）模型的云端推理服务开发与优化，涉及从轻量级模型到百亿参数大模型的部署
你将深入底层，利用C++、CUDA等技术进行性能调优，提升系统吞吐量，并引入业界前沿的推理加速技术
该岗位技术挑战大，适合对系统性能有极致追求的技术专家
最低要求
计算机、通信、自动化等相关专业本科及以上学历，具有扎实的编程功底，良好的设计能力和编程基础、对设计模式有一定的了解
精通C++和Python，具备扎实的数据结构与算法功底，熟练掌握Linux环境下的多线程/多进程编程、网络编程（gRPC/HTTP/TCP/WebSocket），熟悉Docker与K8s等容器化编排技术
熟练使用ONNX Runtime、TensorRT进行模型转换、算子支持与加速，vLLM、TensorRT-LLM等大模型分布式推理框架，掌握流式和非流式语音识别的工程化实现
具备CUDA/Triton C++算子开发及性能调优经验，能针对特定硬件（如Nvidia A10/A100/H20）进行指令级优化
精通KV Cache管理，具备FP8/INT8/INT4模型量化部署经验，了解GPTQ/AWQ等量化算法
符合京东价值观：客户为先、创新、拼搏、担当、感恩、诚信
工作职责
负责基于云原生架构的语音识别（ASR）模型推理服务开发，涵盖从端到端轻量级小模型到百亿参数级语音大模型的部署与落地
针对ASR推理链路进行深度优化，包括但不限于计算图优化、算子融合、显存管理与多线程并发，显著降低RTF并提升整体QPS
跟踪并引入业界最新的大模型推理加速技术，如量化、投机采样、KV Cache优化，解决大模型在云端部署的高成本与高延迟痛点
参与构建支持高并发、高可用、可动态弹性扩缩容的云端AI推理网关与资源调度系统，保障核心业务的稳定性
AI 洞察
优缺点分析
优点
- 技术栈前沿，涉及大模型推理、性能优化，技能积累价值高
- 工作强度可能较大，需要应对高并发、高可用系统的稳定性要求
- 技术迭代快，需要持续学习新技术
缺点 / 挑战
- 京东科技平台大，业务场景丰富，有挑战性
- 薪资水平较高，福利待遇完善
- 技术难度高，需要深入掌握C++、CUDA、推理框架，学习压力大
- 适合对底层性能优化有热情、具备扎实C++和CUDA基础、愿意挑战高难度的技术型人才
角色解读
- 技术专家方向：深耕推理优化与高性能计算，成为ASR/大模型推理领域的专家
- 架构师方向：从推理服务扩展到AI基础设施架构设计，负责大规模分布式系统
- 管理方向：带领团队负责整个AI推理平台的建设与优化
- 负责语音识别（ASR）模型的云端推理服务开发，涵盖模型部署、优化和加速
- 深度优化推理链路，包括计算图优化、算子融合、显存管理和并发优化，降低延迟
- 引入业界前沿的大模型推理加速技术，如量化、投机采样、KV Cache优化，解决成本与延迟问题
- 构建高并发、高可用的AI推理网关与资源调度系统，保障业务稳定性
- 精通C++和Python，具备扎实的编程和算法基础
- 熟悉Linux环境下的多线程/多进程编程、网络编程（gRPC/HTTP/TCP/WebSocket）
- 熟练使用ONNX Runtime、TensorRT、vLLM、TensorRT-LLM等推理框架
- 具备CUDA/Triton算子开发与性能优化经验，熟悉模型量化部署
申请策略
- 了解京东科技的业务方向，在面试中体现对供应链金融、企业服务等场景的理解
- 准备一个完整的项目案例，展示从模型部署到性能优化的全过程
- 突出C++和Python的编程能力，尤其是高性能计算相关项目
- 强调在ASR或大模型推理优化方面的实际经验，如TensorRT、vLLM的使用
- 展示CUDA/Triton算子开发或性能调优的成果，如RTF降低、QPS提升
- 提及容器化（Docker/K8s）和分布式系统经验
- 深入学习CUDA编程和GPU架构，掌握算子优化技巧
- 熟悉大模型推理框架（如vLLM、TensorRT-LLM）的源码和优化方法
面试指南
- 使用STAR法则：情境、任务、行动、结果，突出量化成果
- 强调系统性思维，从模型、框架、硬件多个层面分析优化
- 展示对底层原理的理解，如内存访问、算子融合
- 请介绍你使用TensorRT或vLLM优化模型推理的经验
- 如何降低ASR模型的RTF？请描述你的优化思路
- 解释KV Cache在LLM推理中的作用，以及如何优化
- 如何设计一个高并发的推理服务？请谈谈你的架构设计
- 你如何针对特定GPU（如A100）进行指令级优化？
职位点评
71
综合评分
技术前沿、薪资高、成长快，但工作强度可能较大。
从薪资福利、成长空间、工作节奏和岗位方向综合评估，方便横向比较。
更适合这类人
适合追求技术成长、愿意接受挑战、对性能优化有热情的求职者。
表现最好
成长发展
相对薄弱
工作生活
薪资福利75
成长发展90
工作生活40
使命价值70
薪资福利
75中等
京东作为上市巨头，薪资水平具有竞争力，福利完善，但JD未明确薪资范围，需面议。
薪资信号面议 (30K-50K/月)
成长发展
90较高
该岗位技术栈前沿，涉及大模型推理、性能优化，成长空间大，且京东提供广阔平台。
技术前沿前沿/新兴技术
技术栈ASR、TensorRT、vLLM、CUDA、量化、KV Cache
业务类型profit_center
工作生活
40较低
JD未提及工作模式，但技术优化岗位通常需要现场办公，且可能面临高强度工作。
工作模式未明确
办公地点科技园/产业园
加班情况未提及（无法判断）
使命价值
70中等
京东科技以技术赋能产业，服务众多企业，具有社会价值，但JD未强调使命。
行业发展稳定成熟行业
社会影响中性/一般
使命信号以科技引领产业数智化升级，推动世界更加高效和美好
创新程度积极采用新技术
Watch Jobs