传音
资深算法工程师 - 端侧模型小型化方向(J20115)
资深算法工程师 - 端侧模型小型化方向(J20115)
发布于 10 小时前普通员工/个人贡献者
全职员工仅现场办公算法优化工程师
算法优化工程师
Llm
Pytorch
Tensorflow
Vlm
推理优化
模型压缩
模型量化
知识蒸馏
移动端Ai
值不值得投
69综合评分
综合评分 69
端侧大模型优化前沿岗，技术挑战高、成长性强，但办公模式与WLB需面谈确认。
从薪资福利、成长空间、工作节奏和岗位方向综合评估，方便横向比较。
薪资怎么样
4万
比算法优化工程师中位数高
发布情况
新岗位 · 今天发布
公司情况
这家公司招聘很活跃
约 240 个在招 · 其中算法优化工程师 3 个
市场机会
选择面较广
上海 · 算法优化工程师 · 约 150 个在招
职位详情
关于这个职位
负责将大型语言模型（LLM）和视觉语言模型（VLM）进行小型化和端侧部署，使其能在手机等移动终端上高效运行
你需要运用模型压缩、量化、架构优化等技术，平衡模型大小、精度与推理速度，并针对移动端芯片进行性能调优，以提升用户体验
最低要求
计算机、人工智能、数学等相关专业硕士及以上学历，3年以上相关工作经验
扎实的机器学习和深度学习理论基础，熟悉Transformer架构原理
精通Python，熟练使用PyTorch/TensorFlow等深度学习框架
工作职责
模型小型化研发：负责LLM/VLM大模型的端侧部署方案设计与实现，将云端大模型压缩适配到手机终端
研究并应用模型压缩技术，包括知识蒸馏、量化（INT8/INT4/混合精度）、剪枝、低秩分解等技术
优化模型架构设计，探索MoE、稀疏化、线性Attention等轻量化架构方案
持续迭代优化模型效果，平衡模型大小、精度和推理速度
性能优化：针对移动端主流SoC芯片进行算子优化和推理加速
优化模型推理性能，降低内存占用、功耗和延迟，提升用户体验
技术创新：跟踪业界最新的端侧AI技术和学术前沿，推动技术创新落地
参与专利撰写和技术论文发表
优先资格
有端侧LLM/VLM模型部署经验
有手机厂商、芯片厂商或AI公司相关工作经验
有语音识别、对话系统、多模态理解等任务在端侧的应用经验
AI 洞察
优缺点分析
优点
- 深耕AI领域前沿方向，端侧大模型技术是当前产业落地热点，技术积累深厚
- 直接面向产品，技术成果可快速在亿级用户设备上验证，成就感强
- 需要深入底层（芯片、OS），能建立从算法到硬件的完整技术栈认知
- 需在模型精度、大小、速度、功耗等多维度限制中寻找最优解，平衡难度大
- 技术迭代快，需持续跟进学术和工业界最新进展，保持学习强度
- 移动端开发调试环境相对复杂，问题排查与性能优化需要耐心和细致
- 对AI模型在移动端落地有浓厚兴趣，追求技术深度与工程实现结合，并乐于在复杂约束条件下解决实际问题的资深算法工程师
缺点 / 挑战
暂无明显挑战项
角色解读
- 技术专家路径：在端侧AI或模型优化领域成为技术权威，参与行业标准制定
- 架构师路径：负责整体端侧AI解决方案的架构设计，驱动跨团队技术协同
- 管理路径：带领小型算法团队，负责特定业务线的AI技术规划与落地
- 设计和实现将大型云端模型（如LLM/VLM）压缩并部署到手机端的方案
- 运用量化、剪枝、蒸馏等技术对模型进行小型化，并持续优化其精度与速度的平衡
- 针对移动芯片进行底层推理加速和算子优化，确保模型在终端高效运行
- 深厚的机器学习理论功底，精通Transformer等主流模型架构
- 熟练掌握模型压缩与优化技术，如量化、剪枝、知识蒸馏等
- 具备Python编程能力，并能熟练使用PyTorch/TensorFlow进行模型开发与调试
申请策略
- 深入研究传音在非洲等新兴市场的智能手机产品特点，思考端侧AI如何助力其提升产品体验
- 面试时准备好从算法原理到工程实现细节的深度讨论，尤其是关于性能与效果权衡的思考
- 重点突出模型压缩、量化、端侧部署等相关项目经验，量化展示模型压缩比、精度损失、推理速度提升等具体成果
- 列出熟悉的深度学习框架、编程语言及针对移动端的特定工具链（如NNAPI、Core ML、TFLite等）
- 如有相关论文发表、专利或开源贡献，务必在简历中醒目展示
- 系统复习模型量化（INT8/INT4）、剪枝、蒸馏等技术的最新论文与实践案例
- 了解主流移动端SoC芯片（如高通骁龙、联发科天玑）的AI计算单元（如NPU）特性及优化方法
- 尝试在开源模型（如Llama）上进行端侧部署实践，积累实际工程经验
面试指南
- 采用STAR法则，具体描述项目背景（Situation）、你的任务（Task）、采取的技术行动（Action）和最终量化结果（Result）
- 从技术选型、模型设计、工程优化、系统考量等多个维度分层阐述方案，并强调对移动端限制（内存、功耗）的理解
- 结合具体技术原理（如量化校准、混合精度训练、知识蒸馏的目标函数设计）和实践经验进行回答
- 请描述一个你负责或深度参与的模型压缩/端侧部署项目，遇到了哪些核心挑战，如何解决的？
- 如果将一个百亿参数的LLM部署到手机端，你会如何规划整体方案？需要考虑哪些关键因素？
- 模型量化（如INT8）通常会导致精度损失，请问有什么方法可以最小化这种损失？
- 你对Transformer架构的端侧高效推理（如使用FlashAttention、稀疏注意力等）有何理解？
- 系统梳理个人在模型压缩与端侧部署领域的技术图谱，准备好能体现技术深度的案例
职位点评
薪资福利60
成长发展90
工作生活50
使命价值80
薪资福利
60中等
职位未在JD中披露具体薪资和福利信息，补偿性动机的满足程度取决于后续谈判。作为资深技术岗，薪资市场竞争力有基础，但具体水平需确认。
薪资信号未披露（AI估算：3千–5万/月）
成长发展
90较高
该职位专注于端侧大模型部署这一前沿技术领域，技术挑战性强，且明确有参与专利撰写和论文发表的机会，对技术深度和创新能力提升帮助巨大。
技术前沿前沿/新兴技术
技术栈LLM、VLM、模型压缩、知识蒸馏、量化、剪枝、MoE、稀疏化、线性Attention、PyTorch、TensorFlow、端侧部署
成长机会参与专利撰写和技术论文发表
业务类型profit_center
工作生活
50较低
JD未明确说明远程工作或弹性办公等WLB相关安排，因此生活化动机的满足程度存在不确定性。工作地点位于上海浦东新区，具体办公环境和通勤情况需进一步了解。
工作模式未明确
办公地点未明确
加班情况未提及（无法判断）
使命价值
80较高
端侧AI是智能手机体验升级的核心技术之一，尤其对于开拓新兴市场的手机厂商而言意义重大。该工作能直接影响数亿用户的设备体验，具有较强的应用价值和行业推动力。
行业发展高速增长赛道
社会影响中性/一般
创新程度积极采用新技术
Watch Jobs