中国融通集团
大模型推理优化研发-资深软件开发
大模型推理优化研发-资深软件开发
发布于 3 小时前普通员工/个人贡献者
全职员工仅现场办公算法优化工程师
算法优化工程师
Cuda编程
Kv Cache
Sglang
Vllm
分布式系统
大模型推理
性能调优
算子优化
值不值得投
76综合评分
综合评分 76
前沿AI基建技术、巨头平台背书、技术成长性强、工作节奏相对稳健
从薪资福利、成长发展、工作生活和使命价值四个维度综合评估，方便横向比较。
薪资怎么样
3.3万
比算法优化工程师中位数低
发布情况
新岗位 · 今天发布
公司情况
这家公司招聘很活跃
约 370 个在招
市场机会
选择不多
无锡 · 算法优化工程师 · 6 个在招
职位详情
关于这个职位
负责大模型推理框架的适配与底层优化，包括架构移植、并行计算设计、内存管理及高并发低延迟性能调优
需熟练掌握大模型量化压缩、KV Cache调度及主流推理框架的多卡多机部署经验，致力于提升AI模型的生产环境运行效率
最低要求
年以上大模型引擎开发与优化经验，熟练掌握大模型量化与压缩策略、KV Cache管理与调度、PD分离、连续/动态批处理、投机解码等大模型优化技术
在生产环境使用过至少一种主流推理框架（vLLM、SGLang等），并进行过多卡/多机推理（TP/PP/EP/CP 等）的部署与调优
本科及以上学历
工作职责
负责大模型推理框架适配优化，包括大模型架构移植、并行设计、动态调度、内存优化、高并发与低延迟性能调优
负责大模型推理框架配套基础软件优化
优先资格
研究生以上学历优先
具备推理框架二次开发、插件定制或性能调优经验，基于框架进行算子替换、调度策略改进或分布式策略适配能力者优先
AI 洞察
优缺点分析
优点
- 聚焦前沿大模型底层技术，技术壁垒高，个人核心竞争力强
- 依托巨头企业背景，算力资源与业务场景丰富，利于技术落地验证
- 接触工业级生产环境调优，工程经验含金量远超纯学术研究
- 技术栈迭代极快，需持续跟进最新论文与开源社区动态
- 生产环境性能调优容错率低，对系统稳定性与边界条件处理要求严苛
- 跨团队协同频繁，需兼顾算法团队需求与底层工程实现约束
- 适合对AI底层系统有浓厚兴趣、具备扎实计算机体系结构功底与工程落地能力的开发者，追求技术深度而非短期业务变现
缺点 / 挑战
暂无明显挑战项
角色解读
- 向AI基础设施架构师或大模型系统专家方向深耕，主导下一代推理引擎研发
- 拓展至AI芯片协同优化、云原生AI平台架构或高性能计算领域
- 积累深厚底层技术后，可转型为技术负责人或首席科学家
- 负责大模型推理框架的底层适配与性能调优，解决生产环境中的计算与内存瓶颈
- 设计并行计算策略与动态调度机制，提升多卡多机部署的吞吐量与响应速度
- 跟踪业界最新大模型架构与推理技术演进，评估并引入优化方案
- 编写配套基础软件模块，保障推理框架在复杂业务场景下的稳定运行
- 精通大模型量化压缩、KV Cache调度及投机解码等核心优化技术
- 熟练使用vLLM、SGLang等主流推理框架，掌握TP/PP/EP/CP分布式并行策略
- 具备C++/Python底层开发能力，熟悉算子实现与自定义插件开发流程
- 扎实的计算机体系结构基础，理解GPU显存管理、PCIe/NVLink通信拓扑及CUDA编程
申请策略
- 提前了解融通集团的业务布局与技术栈偏好，准备针对性技术问答
- 关注大模型推理领域的最新开源进展（如FlashAttention, PagedAttention），展现技术敏锐度
- 突出大模型推理框架实战经验，量化性能提升指标（如吞吐量QPS提升比例、延迟降低毫秒数）
- 详细列举分布式训练/推理的调优案例，说明硬件拓扑选择与通信优化策略
- 展示算子替换或自定义插件开发的具体代码贡献与基准测试对比
- 深入研读Transformer架构细节与CUDA/GPU内存池管理机制
- 熟悉主流推理框架源码结构，掌握PyTorch/TensorRT等工具链的集成方法
- 补充Linux系统级性能分析工具（perf, nvprof, nsys）的使用经验
面试指南
- 采用STAR法则阐述背景、任务、行动与结果，重点说明技术选型依据、实验对比数据及最终收益
- 针对性能调优类问题，先讲清瓶颈定位方法（ profiling 工具链），再分步骤说明优化路径与权衡取舍
- 结合硬件特性（如H100/A100架构）解释软件策略的底层逻辑，展现体系结构思维
- 请详细描述一次你通过修改推理框架源码提升吞吐量的具体过程与关键决策点
- 如何平衡大模型推理中的计算密集型与访存密集型任务？遇到显存带宽瓶颈如何解决？
- 在多机多卡环境下，TP与PP并行策略的通信开销差异是什么？如何进行拓扑感知调度？
- 复习分布式并行策略原理与常见通信原语（AllReduce, AllGather等）的优化技巧
- 准备1-2个完整的性能调优项目复盘，包含基线数据、干预变量与收敛曲线
职位点评
薪资福利72
成长发展88
工作生活65
使命价值75
薪资福利
72中等
巨头企业背景提供稳定薪酬与完善福利体系，无锡地区薪资水平具竞争力，但国企性质可能限制薪资爆发力与股权激励空间。
薪资信号未披露（AI估算：2.5千–4.0万/月）
成长发展
88较高
深度参与大模型推理框架优化，接触前沿AI基础设施技术，技术成长空间广阔且能直接转化为行业硬实力。
技术前沿前沿/新兴技术
技术栈vLLM、SGLang、KV Cache、算子优化、分布式推理、投机解码
业务类型ambiguous
工作生活
65中等
传统巨头企业通常实行标准考勤制度，工作节奏相对规律，但大模型研发项目期可能存在阶段性高强度投入。
工作模式未明确
办公地点科技园/产业园
加班情况未提及（无法判断）
使命价值
75中等
投身国家人工智能基础设施建设，推动大模型高效落地应用，具有显著的行业价值与社会意义。
行业发展高速增长赛道
社会影响正向社会影响力较高
创新程度积极采用新技术
Watch Jobs