优刻得
2027校招-大模型推理优化工程师
2027校招-大模型推理优化工程师
发布于 大约 13 小时前普通员工/个人贡献者
全职员工仅现场办公机器学习工程
机器学习工程
Cuda
Flashattention
Gpu编程
Llm
Vlm
分布式部署
推理优化
模型压缩
量化
值不值得投
75综合评分
综合评分 75
前沿大模型优化校招岗，技术成长性好，薪资市场水准，WLB未明确。
从起薪待遇、成长路径、工作节奏和岗位方向综合评估，方便比较职业起点。
薪资怎么样
20K
比机器学习工程中位数低
发布情况
新岗位 · 今天发布
公司情况
这家公司招聘很活跃
50 个在招
市场机会
选择面较广
上海 · 机器学习工程 · 约 350 个在招
职位详情
关于这个职位
该职位负责大语言模型（LLM）和视觉语言模型（VLM）的部署与推理性能优化，致力于系统性降低硬件延迟，保障高并发下线上服务的稳定性
同时，探索前沿推理加速技术，并推动在GPU/NPU等新型硬件上的落地应用
适合对大模型优化有热情、具备扎实工程能力的应届生
最低要求
届毕业应届生
至少具备以下2个领域中的实践经验：a. Transformers与Diffusers库，深入理解Attention变体（GQA、MLA、Linear Attn、Sparse Attn）及其优化技术（FlashAttention、PagedAttention）
b. GPU编程（CUDA/cutlass/Triton/TileLang开发）且掌握性能分析工具（Nsight、PyTorch Profiler等）
c. 模型压缩（量化、稀疏化、知识蒸馏）
d. GPU集群通信架构（卡间通信NVLink/PCIe，机间通信RDMA/RoCE），理解NCCL、HCCL等通信库的工作机制
良好的团队协作能力与工程落地能力，对技术有持续热情
工作职责
负责LLM/VLM大模型的部署与推理性能优化，系统性降低硬件延迟瓶颈，保障高并发下线上服务稳定性（TTFT与TPOT满足SLA要求）
探索前沿推理加速技术，推动在新型GPU/NPU等硬件上的落地
优先资格
有超大规模模型（1T参数以上）的分布式部署经验
有推理系统经验，如为vLLM、SGLang、TensorRT-LLM贡献过核心PR
有投机采样（Speculative Decoding）的落地与优化经验（如EAGLE、DFlash等）
有相关开源项目、专利或论文发表
有国产芯片（如昇腾、海光等）的在线服务加速经验
AI 洞察
优缺点分析
优点
- 技术前沿：直接参与大模型优化，接触当前AI领域最热门的技术方向
- 成长空间大：校招岗位提供系统化培养，适合快速积累技术能力和行业经验
- 行业前景好：大模型和AI推理优化是行业增长引擎，人才需求旺盛
- 技术门槛高：需要深入理解GPU架构、并行计算和优化技术，学习曲线陡峭
- 快速迭代：大模型技术更新迅速，要求持续学习和跟进最新进展
- 适合对AI基础设施和大模型优化有强烈兴趣，具备扎实编程基础、工程实践能力和团队协作精神的应届生
缺点 / 挑战
- 性能压力大：线上服务稳定性要求高，需应对高并发场景下的性能挑战
角色解读
- 从初级工程师成长为推理优化专家，深入技术细节，负责更复杂的优化项目
- 可向系统架构师或技术负责人方向发展，主导大模型推理系统的整体设计和优化
- 随着大模型技术演进，有机会参与前沿研究或转向AI基础设施（AI Infra）领域
- 负责大语言模型（LLM）和视觉语言模型（VLM）的部署与推理性能优化，确保高并发服务的稳定性和低延迟
- 探索并实现前沿推理加速技术，如FlashAttention、PagedAttention等，提升系统吞吐量
- 在GPU/NPU等硬件上进行系统级优化，解决硬件延迟瓶颈
- 与团队协作，将优化方案落地到生产环境中，满足服务级别协议（SLA）要求
- 熟悉Transformers库及Attention变体（如GQA、MLA）的优化技术，掌握FlashAttention、PagedAttention等工具
- 具备GPU编程能力，熟练使用CUDA、cutlass、Triton等工具，并掌握性能分析工具如Nsight、PyTorch Profiler
- 了解模型压缩技术，包括量化、稀疏化和知识蒸馏
- 对GPU集群通信架构有实践经验，理解NVLink、PCIe、RDMA/RoCE及NCCL、HCCL等通信库工作机制
申请策略
- 关注优刻得在大模型、云计算和推理优化领域的技术博客和开源项目，面试中体现了解
- 准备具体优化案例，展示如何通过技术手段降低延迟、提升吞吐量
- 面试时强调对技术的持续热情和学习能力，适应快速变化的技术环境
- 突出在GPU编程（CUDA/Triton）、模型压缩或分布式系统方面的项目经验，量化性能提升成果
- 展示对Transformer架构和Attention优化技术的深入理解，如有相关论文、专利或开源贡献
- 强调工程落地能力，描述如何将优化方案部署到生产环境并解决实际问题
- 提及团队协作经历，体现沟通能力和跨团队合作经验
- 深入学习CUDA编程和性能分析工具，如Nsight Systems/Compute，掌握优化方法
面试指南
- 使用STAR法则（情境、任务、行动、结果）描述项目经验，突出技术挑战和解决方案
- 结合理论知识和实践细节，系统性地解释技术原理和优化思路
- 展示全链路优化思维，从硬件特性、软件栈到服务架构综合考虑问题
- 如何优化大模型推理的延迟（如TTFT、TPOT）和吞吐量？请结合具体技术谈
- 解释FlashAttention的工作原理及其在性能优化中的优势
- 在GPU集群中，如何处理卡间通信（如NVLink）和机间通信（如RDMA）的瓶颈？
- 描述一个你参与的模型压缩项目（如量化、蒸馏），你采用了什么方法，效果如何？
- 你如何看待大模型推理优化的未来趋势，特别是针对新型硬件（如NPU）的优化？
职位点评
薪资福利70
成长发展85
工作生活60
使命价值80
薪资福利
70中等
作为校园招聘岗位，薪资预计处于市场水准，公司已上市提供一定稳定性，但JD未披露具体福利。
薪资信号市场水准 (15K-25K/月)
成长发展
85较高
岗位涉及前沿大模型优化技术，提供深入技术成长机会，但JD未明确提及晋升或培训路径。
技术前沿前沿/新兴技术
技术栈LLM、VLM、CUDA、Transformers、FlashAttention、量化、分布式部署
业务类型ambiguous
工作生活
60中等
JD未明确工作模式、办公灵活性或WLB相关信号，无法判断实际工作生活平衡情况。
工作模式未明确
办公地点未明确
加班情况未提及（无法判断）
使命价值
80较高
大模型技术处于高速增长赛道，公司积极采用新技术，但社会影响力中性。
行业发展高速增长赛道
社会影响中性/一般
创新程度积极采用新技术
Watch Jobs