哈啰出行
模型量化部署实习生
模型量化部署实习生
发布于 大约 14 小时前实习/见习
上海市
无经验要求
实习生
仅现场办公
硕士
软件工程
Arm
Cnn
Cuda
Fp16
Gpu
Int8
Onnx Runtime
Qat
Tensorrt
AI 估算 · 4k–8k
实习生岗位，上海地区硕士实习生薪资范围约为4k-8k/月，结合行业平均水平估算。
职位详情
关于这个职位
作为模型量化部署实习生，你将参与Transformer和CV模型的INT8/FP16量化、稀疏化、剪枝等压缩优化工作，基于TensorRT、ONNX Runtime等推理框架完成模型转换与性能调优，提升GPU/ARM多平台推理效率，并协同算法团队落地部署方案
这是一个深入AI工程化前沿、积累实战经验的绝佳机会
最低要求
计算机、电子信息、自动化等相关专业2027届硕士应届毕业生，扎实掌握C/C++/Python任意一门编程语言
熟悉深度学习基础理论，了解CNN、Transformer等常见模型结构
了解TensorRT、ONNX、TVM等至少一种推理框架的基本使用，有模型转换、算子开发相关实践经验优先
熟悉Linux开发环境，掌握基础的Shell脚本编写、性能调试工具使用方法，有CUDA编程基础者优先
对AI部署方向有强烈兴趣，主动关注模型量化、推理优化领域的前沿技术，具备良好的问题排查与跨团队沟通能力
工作职责
参与Transformer、CV类模型的INT8/FP16量化、稀疏化、QAT、剪枝、蒸馏工作，解决量化精度损失问题，实现模型体积与推理速度的平衡优化
基于TensorRT、ONNX Runtime、TVM等主流推理框架，完成模型转换、算子开发与性能调优，支撑GPU/ARM等多硬件平台部署
参与推理引擎的性能 Profiling 工作，定位并解决推理链路中的瓶颈点，推动核心场景的吞吐率提升30%以上
协同算法、业务团队完成部署方案落地，输出标准化部署SOP，保障线上推理服务的稳定性与低延迟
优先资格
参与过开源模型部署项目（BEV、OCC、VLA、端到端），在GitHub有相关量化、推理优化的代码提交记录
有NVIDIA Polygraphy等模型调试工具的使用经验，独立解决过模型转换中的精度对齐问题
参加过AI推理框架、模型部署相关的竞赛（如NVIDIA TensorRT优化大赛、全国大学生人工智能竞赛等）并获奖
熟悉ARM架构NEON指令集、端侧NPU硬件特性，有端侧模型部署相关实践经验
AI 洞察
优缺点分析
优点
- 接触前沿的模型量化、推理优化技术，技能积累快
- 涉及GPU/ARM多平台部署，技术栈丰富
- 大厂实习经历，为简历增色，且有机会转正
- 团队协作与问题排查能力得到充分锻炼
- 性能调优工作可能涉及大量试错，需要耐心和细致
缺点 / 挑战
- 需要同时掌握深度学习理论和工程实践，入门门槛较高
- 实习期间任务紧凑，可能需要承担一定的工作压力
- 适合对AI部署方向有强烈兴趣、动手能力强、喜欢解决性能优化挑战的计算机或相关专业硕士生
角色解读
- 从模型部署实习生成长为AI部署工程师，深入掌握推理优化全链路技术
- 向AI系统架构师方向发展，负责大规模推理系统的设计与优化
- 有机会转向算法研究岗位，结合部署经验反哺模型设计
- 对Transformer和CV模型进行INT8/FP16量化、稀疏化、剪枝等压缩，解决精度损失问题
- 基于TensorRT、ONNX Runtime等推理框架完成模型转换、算子开发和性能优化
- 进行推理引擎的性能分析，定位瓶颈并优化，提升吞吐率
- 与算法和业务团队协作，输出标准化部署方案并保障线上稳定性
- 扎实的C/C++或Python编程能力，熟悉Linux开发环境
- 了解深度学习基础，熟悉CNN、Transformer等模型结构
- 至少熟悉一种推理框架（TensorRT、ONNX、TVM），有模型转换或算子开发经验
- 有CUDA编程基础或性能调试工具使用经验者优先
申请策略
- 了解哈啰出行业务线（如共享出行、两轮车），思考AI部署如何赋能业务
- 在面试中展示对AI部署技术栈的热情和持续学习的动力
- 突出C/C++、Python编程项目，尤其是与模型推理相关的实践
- 展示使用TensorRT、ONNX等框架进行模型转换或优化的经历
- 如有CUDA编程或性能调优经验，务必详细描述
- 强调参与开源项目或竞赛获奖经历，特别是与部署相关的
- 提前学习TensorRT、ONNX Runtime的基本用法，并动手完成一个小模型部署
- 补强CUDA编程基础，了解GPU架构和性能优化技巧
面试指南
- STAR法则（情境、任务、行动、结果）回答项目经验
- 从原理到实践的结构：先解释概念，再给出具体操作和效果
- 展示问题解决思路：识别问题、分析原因、尝试方案、验证结果
- 请解释INT8量化为什么会导致精度损失？如何缓解？
- 描述一次你用TensorRT优化模型性能的经历，具体步骤和结果
- 如何定位推理引擎的性能瓶颈？使用过哪些Profiling工具？
- 你对Transformer模型的结构了解多少？部署时有哪些特殊考虑？
- 为什么选择AI部署方向？你对未来的职业规划是什么？
职位点评
66
综合评分
前沿技术、实习机会、技术成长快，但薪资和福利一般。
从学习成长、工作节奏、岗位方向和实习待遇综合评估，方便比较实习机会。
更适合这类人
最适合追求技术成长、热爱挑战的AI部署方向学习者。
表现最好
成长发展
相对薄弱
薪资福利
薪资福利40
成长发展90
工作生活50
使命价值60
薪资福利
40较低
实习薪资相对较低，且JD未明确福利，补偿性动机满足程度有限。
薪资信号未披露（AI估算：4K-8K/月）
成长发展
90较高
该职位提供前沿的模型量化与推理优化技术学习机会，技能成长空间大，发展性动机满足程度高。
技术前沿前沿/新兴技术
技术栈INT8量化、FP16、QAT、稀疏化、剪枝、蒸馏、TensorRT、ONNX Runtime、TVM、CUDA、GPU、ARM、性能Profiling
业务类型ambiguous
工作生活
50较低
现场办公，未提及弹性工作或远程，生活化动机满足程度一般。
工作模式仅现场办公
办公地点科技园/产业园
加班情况未提及（无法判断）
使命价值
60中等
AI部署属于高速增长赛道，技术推动业务发展，有一定社会价值，但使命导向不明显。
行业发展高速增长赛道
社会影响中性/一般
创新程度积极采用新技术
哈啰出行 的其他在招职位
相似职位推荐
Watch Jobs