云知声
大模型开发工程师(J11066)
大模型开发工程师(J11066)
发布于 6 小时前普通员工/个人贡献者
全职员工仅现场办公机器学习工程
机器学习工程
Cuda
Llm推理
Maas
Sglang
Tensorrt-Llm
Vllm
国产化适配
大模型
性能优化
值不值得投
71综合评分
综合评分 71
前沿大模型工程化岗位，技术成长性极强，薪资有竞争力，但WLB信号不足。
从薪资福利、成长空间、工作节奏和岗位方向综合评估，方便横向比较。
薪资怎么样
2.8万
比机器学习工程中位数低
发布情况
新岗位 · 今天发布
公司情况
公司还在招多个职位
4 个在招
市场机会
选择不多
厦门 · 机器学习工程 · 2 个在招
职位详情
关于这个职位
该职位专注于大模型（多模态）推理引擎与服务的工程化落地
你需要负责开发高性能、高并发的大模型推理服务，优化推理性能与成本，并处理与国产算力芯片的适配工作，是连接算法模型与业务应用的关键技术岗位
最低要求
硕士及以上学历，1年以上算法相关工程化经验
计算机、电子、自动化、软件等相关专业
熟悉一种或多种LLM推理框架，有vllm、sglang、lmdeploy、TensorRT-LLM等相关经验优先
熟悉大模型调度优化技术，包括PD分离、多级缓存、多实例调度、负载均衡等，如SGLang model gateway、lm-d
熟悉大模型引擎优化技术，包括prefill cache、tensor并行优化等
有cuda或triton算子优化经验优先
有昇腾、海光、平头哥、沐曦等算力芯片适配经验优先
工作职责
负责大模型（文本、图像、语音等多模态模型）推理引擎及服务的开发，支持自研及开源模型的快速部署和高性能推理
结合大模型业务场景，优化模型落地过程中的性能问题，降低推理成本
包括但不限于：模型量化蒸馏，服务调度优化等
负责开发和维护大模型MaaS服务，支持高并发调用场景
负责大模型的国产化适配
AI 洞察
优缺点分析
优点
- 处于AI技术链的“基础设施”层，技术壁垒高，专业性强，能积累宝贵的底层工程经验
- 直接接触大模型落地核心环节，对提升全栈技术视野和工程能力帮助巨大
- 涉及国产化适配，顺应行业趋势，可能获得在该方向深入发展的机会
- 性能优化工作往往需要深入代码底层和硬件特性，调试复杂，对耐心和技术深度要求高
缺点 / 挑战
- 作为已上市公司，技术体系相对成熟，能接触到业界前沿的工程挑战和优化案例
- 大模型技术迭代速度极快，需要持续学习新的框架、优化技术和硬件平台，知识压力较大
- 作为工程化岗位，需要平衡性能、成本、稳定性和开发效率，可能会面临多维度的权衡挑战
- 适合具备扎实编程和系统功底，对大模型部署优化充满热情，喜欢探究性能瓶颈、解决复杂工程难题，且能接受一定工作压力和快速技术更新的工程师
角色解读
- 深耕大模型基础设施领域，成为推理引擎、性能优化或MaaS平台方面的专家
- 向更底层的技术发展，参与或主导新型计算架构、编译器、芯片适配等前沿工作
- 结合业务场景，成长为AI平台架构师或技术负责人，负责整体AI算力与服务效能的规划
- 开发大模型推理引擎和服务，确保模型能高效、稳定地部署到线上环境
- 针对高并发、低成本等业务需求，对模型推理过程进行深度性能优化与调度优化
- 参与大模型MaaS平台的建设与维护，使其能服务多个业务线
- 探索并解决大模型在国产算力芯片上的适配与运行问题，推进技术国产化
- 具备扎实的算法工程化能力，能将算法模型转化为稳定可靠的工程服务
- 精通至少一种主流大模型推理框架（如vLLM、SGLang、TensorRT-LLM），并了解其底层原理
- 拥有CUDA编程或Triton算子开发经验，能对计算内核进行优化
- 了解分布式系统、并发编程及服务调度相关知识，能够设计高可用、高性能的服务架构
- 有国产AI芯片适配经验者优先，这表明需要具备一定的底层硬件认知和跨平台开发能力
申请策略
- 面试中可能会考察对推理过程（如Prefill和Decode阶段）优化技术的理解深度，准备清晰的讲解
- 可以主动了解云知声的语音、物联等核心业务，思考大模型技术如何在其场景下落地优化
- 表现出对技术细节的好奇心和钻研精神，这在这个岗位中非常受重视
- 重点突出任何与大模型、LLM推理优化相关的项目或实践经验，即使是小课题或个人研究
- 清晰展示CUDA编程、算子优化或高性能计算相关的技能点和项目成果
- 强调在分布式系统、服务开发、性能调优方面的工程能力，用具体数据（如延迟降低、成本节省）说明成果
- 如有接触国产芯片（如昇腾、海光）或异构计算的经验，务必单独列出
- 系统学习并动手实践SGLang、TensorRT-LLM等当前热门的推理框架，理解其设计思想
面试指南
- 对于技术原理问题，采用“总-分-总”结构：先简述概念，再分点说明关键技术和你的理解/经验，最后总结其意义
- 对于系统设计问题，采用“需求分析-核心模块-权衡取舍”的框架：先明确目标（高并发、低延迟），再拆解为调度、缓存、并行等模块，最后讨论不同方案的优缺点
- 对于项目经验问题，使用STAR法则（Situation, Task, Action, Result），重点突出你遇到的“技术挑战”和“解决思路”
- 请描述一下大模型推理过程中，Prefill阶段和Decode阶段分别有哪些性能瓶颈？你会如何优化？
- 你了解vLLM/SGLang/TensorRT-LLM中的哪些？请谈谈你对它们核心优化技术的理解，比如Continuous Batching或PagedAttention
- 如何设计一个支持高并发的大模型推理服务？需要考虑哪些方面（调度、缓存、容错）？
- 在模型量化或蒸馏过程中，你遇到过哪些工程上的挑战？是如何解决的？
- 如果需要将一个PyTorch模型适配到昇腾NPU上运行，你的大致思路是什么？
职位点评
薪资福利70
成长发展90
工作生活45
使命价值75
薪资福利
70中等
作为一家已上市AI公司的核心技术岗位，且要求硕士及专项经验，预计薪资在厦门市具有竞争力。但未明确提及具体福利细节。
薪资信号未披露（AI估算：2千–3.5万/月）
成长发展
90较高
该岗位处于AI技术发展的前沿和核心环节，技术挑战性强，能深度参与大模型工程化落地，对技术能力的深度和广度提升有极高价值。
技术前沿前沿/新兴技术
技术栈大模型、LLM推理、vLLM、SGLang、TensorRT-LLM、CUDA、性能优化、国产化适配
业务类型profit_center
工作生活
45较低
岗位未提及远程办公、弹性工作等WLB信号，作为工程化与优化岗，可能需要紧密协作和调试，现场办公的可能性极高。工作模式与节奏信息不足。
工作模式仅现场办公
办公地点科技园/产业园
加班情况未提及（无法判断）
使命价值
75中等
大模型是当前AI领域最热门的方向，推动其高效落地和国产化具有明显的行业价值和一定的社会意义（促进AI算力自主可控）。
行业发展高速增长赛道
社会影响中性/一般
使命信号国产化适配
创新程度积极采用新技术
Watch Jobs