顶尖应届-端侧大模型算法工程师-软件

优缺点分析

角色解读

• 从端侧推理优化入手，逐步深入模型压缩与硬件协同设计，成长为端侧AI架构师
• 可横向拓展至云端大模型部署或AI芯片设计领域，成为全栈AI优化专家
• 在小米内部可向算法研究或技术管理方向发展，积累端侧场景经验后跳槽至其他手机、IoT或自动驾驶公司
• 将大模型等算法适配到手机等移动设备上，通过量化、剪枝、知识蒸馏等技术减小模型体积并加速推理
• 开发或优化移动端深度学习框架（如NCNN、TFLite）中的算子，编写底层汇编代码（ARM Neon、DSP等）以榨干芯片性能
• 与算法团队协作改进模型结构，使其更适配端侧硬件，同时跟踪前沿论文将新技术落地
• 撰写技术论文或申请专利，沉淀算法优化方法论
• 精通C/C++，熟悉移动端或嵌入式开发环境，能高效编写底层算子
• 扎实的深度学习理论基础，熟悉CNN、Transformer等网络结构及其量化/压缩原理
• 了解大模型推理加速技术（如投机采样、GQA、MoE），并有实际优化经验更佳
• 熟悉至少一种移动端推理框架（NCNN、TFLite、SNPE等），了解芯片架构（ARM、DSP、RISC-V）

申请策略

• 在简历和面试中展现出对移动端AI技术的热情，可以附带个人GitHub项目或技术博客
• 了解小米在端侧AI上的布局（如小爱同学、相机算法），在面试中体现对业务场景的理解
• 突出C/C++项目经验，尤其是嵌入式或移动端编程相关（如ARM汇编、DSP开发）
• 详细描述参与的模型压缩或推理优化项目，包括量化、剪枝、算子调优等具体技术细节
• 如果有开源框架（NCNN、TFLite等）贡献或相关论文，务必醒目列出
• 强调对深度学习原理的理解，如数学推导和网络结构设计
• 提前学习模型量化工具（如TensorRT、ONNX Runtime）和移动端框架（NCNN、MNN）
• 熟悉至少一种异构计算架构（ARM Neon、CUDA或DSP），并动手写几个算子案例

面试指南

• 对于优化类问题：先分析瓶颈（计算/内存/带宽），再给出具体技术手段（算子融合、量化、并行、内存复用等），最后用数据或案例佐证效果
• 对于原理类问题：从数学定义出发，解释核心概念，然后联系实际应用场景说明影响或trade-off
• 对于开放性问题：展示思考深度，从当前技术局限性出发提出假设，用结构化思路分点论述
• 请解释模型量化（INT8/INT4）的原理，并说明如何避免精度损失
• 如何优化一个卷积层在ARM CPU上的推理速度？请从算子、缓存、并行等角度分析
• 描述Transformer中的Self-Attention在移动端部署可能遇到的挑战及解决方案
• 你用过哪些端侧推理框架？对比它们的优缺点
• 如果有无限算力，你会如何改进当前的大模型压缩技术？