高通
Staff Machine Learning Engineer
Staff Machine Learning Engineer
发布于 大约 2 小时前普通员工/个人贡献者
全职员工仅现场办公算法优化工程师
算法优化工程师
Llm
Onnx
Pytorch
机器学习
模型量化
深度学习
边缘计算
Aimet
值不值得投
75综合评分
综合评分 75
前沿AI模型优化岗位，技术成长性强，薪资有竞争力，但工作模式和WLB信息不明确。
从薪资福利、成长空间、工作节奏和岗位方向综合评估，方便横向比较。
薪资怎么样
40K
比算法优化工程师中位数高
发布情况
新岗位 · 今天发布
公司情况
这家公司招聘很活跃
约 210 个在招
市场机会
选择适中
深圳 · 算法优化工程师 · 22 个在招
职位详情
关于这个职位
该职位是高通的高级机器学习工程师，负责开发工具帮助开发者优化和部署机器学习模型到边缘和移动硬件
核心工作是使用高通开源的AIMET框架进行模型量化、压缩和优化，适用于大语言模型、生成式AI模型以及视觉、音频等多模态网络，以在资源受限的硬件上实现高性能推理
最低要求
计算机科学、工程、信息系统或相关领域学士学位，并具有4年以上硬件工程、软件工程、系统工程或相关工作经验
或硕士学位及3年以上相关经验
或博士学位及2年以上相关经验
具有2年以上使用C、C++、Java、Python等编程语言的工作经验
工作职责
在AIMET框架内设计、开发和维护量化算法和压缩流水线（PTQ、QAT、混合精度、AdaScale等）
实现先进的量化技术，包括LLM和生成式AI模型的仅权重量化、激活量化、KV缓存量化和亚4位量化
构建工具以分析、分析和调试由量化引起的模型精度下降
将AIMET工作流与流行的机器学习框架集成——PyTorch和ONNX
开发API和面向开发者的工具，使AIMET对外部客户和设计合作伙伴易于访问和使用
集成AIMET以支持大规模量化
负责模型的端到端量化和优化，确保它们在高通硬件上满足精度、延迟和功耗目标
量化和验证广泛的模型家族——视觉Transformer、LLM、扩散模型、语音和多模态架构
开发和维护自动化量化流水线和评估工具，以扩展模型上线
优先资格
具有3年以上机器学习、深度学习或AI基础设施的行业经验
精通Python，并有PyTorch、ONNX和/或TensorFlow的实践经验
对神经网络架构（如CNN、Transformer、LLM、扩散模型、多模态模型）有扎实理解
具有模型量化技术（如PTQ、QAT、仅权重量化、混合精度、亚4位方法）的经验
有量化LLM（如GPT、LLaMA、Mistral、Falcon等）以进行推理优化的实践经验
熟悉AIMET、GPTQ、AWQ、SmoothQuant或类似量化框架者优先
具有使用ONNX、TFLite/LiteRT或其他模型交换格式的经验
理解硬件约束：内存带宽、计算精度（INT4/INT8/FP16/BF16）和NPU/DSP执行
具有跨团队或业务部门协作以推动技术对齐和模型交付的经验
精通git和软件开发最佳实践
具备良好的书面和口头沟通能力——能够编写清晰的API、文档并与外部开发者直接互动
具有C++用于性能关键组件的经验者优先
熟悉ARM处理器和移动SoC架构（如Snapdragon）者优先
具有自动化评估流程和大规模模型基准测试经验者优先
AI 洞察
优缺点分析
优点
- 深度参与前沿AI模型优化工作，直接接触大语言模型和生成式AI的最新技术
- 使用并贡献于高通开源的AIMET框架，提升技术影响力和行业可见度
- 在性能、精度和功耗之间取得平衡涉及复杂的权衡和调试，技术难度高
- 适合对AI模型部署和优化有浓厚兴趣、具备扎实机器学习理论基础、喜欢在软硬件交叉领域解决难题、并希望影响开源工具和开发者生态的技术专家
缺点 / 挑战
- 在资源受限的边缘硬件上解决有挑战性的问题，积累独特的跨领域（软硬件）经验
- 需要持续跟踪快速发展的AI量化技术，保持技术栈的更新压力较大
- 作为Staff级工程师，需要独立驱动项目并指导他人，对沟通和领导力要求较高
角色解读
- 可向机器学习系统架构师或AI基础设施专家方向发展，负责更广泛的模型优化战略
- 有机会成为量化与压缩领域的技术领袖，影响开源社区和行业标准
- 通过积累边缘计算和硬件协同优化经验，可向更综合的AI工程师或研究科学家岗位演进
- 设计和开发模型量化与压缩算法，优化机器学习模型在边缘硬件上的性能
- 构建和维护AIMET开源框架的工具链，支持PyTorch和ONNX等主流框架集成
- 解决大语言模型和生成式AI模型在资源受限设备上的部署挑战，确保精度和效率平衡
- 精通Python和机器学习框架（如PyTorch），并有模型量化（如PTQ、QAT）的实战经验
- 深入理解神经网络架构（如Transformer、LLM、扩散模型）和硬件约束（如内存带宽、计算精度）
- 具备跨团队协作能力，能够将技术方案转化为开发者友好的工具和API
申请策略
- 研究高通的AI战略和AIMET开源社区动态，在申请材料中体现你对该项目的理解和贡献意愿
- 准备展示你如何解决过模型量化中的典型挑战（如精度下降、延迟优化）的具体案例
- 突出在模型量化、压缩或推理优化方面的具体项目经验，尤其是使用PyTorch、ONNX或类似框架的成果
- 强调对AIMET或其他量化框架（如GPTQ、AWQ）的贡献或熟悉程度，如有开源项目或论文可列出
- 展示跨团队协作经验，例如与硬件工程师或产品团队合作推动模型落地的案例
- 深入学习最新的量化技术（如亚4位量化、混合精度策略）和边缘硬件特性（如高通NPU/DSP）
- 提升C++编程能力，以便处理性能关键组件
- 同时加强文档编写和API设计技能
面试指南
- 使用STAR框架（情境、任务、行动、结果）结构化你的回答，聚焦于技术细节和量化结果（如精度损失百分比、延迟提升）
- 强调你对硬件约束的理解，以及如何针对特定平台（如Snapdragon NPU）优化模型
- 展示对AIMET框架的了解，并讨论你如何贡献或改进开源工具链
- 请描述你过去在模型量化或压缩方面的项目经验，特别是如何平衡精度和硬件效率？
- 如何将一个大语言模型（如LLaMA）量化到亚4位并在移动设备上部署？请解释关键步骤和挑战
- 你如何设计工具来调试和分析量化后模型的精度下降？
- 解释PTQ（训练后量化）和QAT（量化感知训练）的区别，以及何时选择哪种方法
- 复习AIMET文档和代码库，重点关注量化算法（如AdaScale、混合精度）的实现原理
职位点评
薪资福利80
成长发展90
工作生活50
使命价值70
薪资福利
80较高
该职位薪资水平在深圳市场有竞争力，且高通作为大型上市公司通常提供稳定的薪酬和福利。
薪资信号未披露（AI估算：30K-50K/月）
成长发展
90较高
职位涉及前沿AI模型量化技术，使用主流工具链，并有开源贡献机会，技能成长路径清晰。
技术前沿前沿/新兴技术
技术栈PyTorch、ONNX、AIMET、LLM、模型量化、Python、C++
业务类型ambiguous
工作生活
50较低
JD未明确提及办公模式或工作生活平衡信号，需推断为现场办公，灵活性有限。
工作模式未明确
办公地点科技园/产业园
加班情况未提及（无法判断）
使命价值
70中等
职位推动AI技术在边缘设备的部署，对行业有积极影响，但社会价值感相对中性。
行业发展高速增长赛道
社会影响中性/一般
使命信号Artificial Intelligence is changing the world for the benefit of human beings and societies
创新程度积极采用新技术
高通 的其他在招职位
相似职位推荐
Watch Jobs