
高通
AI Software Engineer
AI Software Engineer
发布于 29 分钟前普通员工/个人贡献者
全职员工仅现场办公AI算法
AI算法
Diffusion Models
Int8/Int4
Llm
Onnx
Pytorch
Vlm
模型量化
边缘计算
值不值得投
71综合评分
综合评分 71
前沿端侧AI优化岗位,技术成长强,薪酬福利未披露,办公模式待确认
从薪资福利、成长发展、工作生活和使命价值四个维度综合评估,方便横向比较。
薪资怎么样
5.0万
比AI算法中位数高
发布情况
新岗位 · 今天发布
公司情况
这家公司招聘很活跃
约 370 个在招 · 其中AI算法 2 个
市场机会
选择适中
深圳 · AI算法 · 46 个在招
职位详情
关于这个职位
该职位面向边缘平台上的前沿AI模型优化与部署,覆盖模型架构分析、低比特量化、格式转换、编译、运行时执行、性能剖析和端侧落地
适合希望在LLM、VLM、扩散模型、MoE等新兴模型方向做工程化优化,并将研究成果转化为高效生产方案的工程师
最低要求
计算机科学、人工智能、电气工程或相关领域的硕士及以上学历
具备AI/ML模型开发、优化或部署相关行业经验
深入理解深度学习基础和现代模型架构,尤其是Transformers和大规模生成式AI模型
具备PyTorch以及ONNX等常见模型格式/框架的扎实实践经验
具备模型量化经验,尤其是INT8/INT4或其他低比特量化技术,并熟悉PTQ和/或QAT
具备模型导出、转换、量化、部署和端侧执行的实践经验
扎实理解模型性能优化,包括延迟、吞吐、内存占用和精度之间的权衡
具备较强的Python编程和调试能力
具备较强的分析和解决问题能力,能够独立排查复杂的模型与系统级问题
Bachelor's degree in Engineering, Information Systems, Computer Science, or related field.
工作职责
为端侧部署启用并优化先进AI模型,重点关注性能、内存效率和模型精度
开发并持续改进自动化、智能化的模型接入、转换、部署和优化流水线
负责端到端模型启用,包括模型导出、图变换、量化、编译、运行时执行、性能剖析和优化
分析模型、软件栈和硬件加速器中的性能瓶颈,识别优化机会
探索新兴模型架构的优化技术,包括LLMs、VLMs、LVMs、Diffusion Models和MoE模型
研究平台感知和硬件感知的模型优化,利用底层计算架构和平台特性提升模型性能与效率
评估新兴模型架构和AI技术,将研究思路转化为实际部署和优化方案
与跨职能工程、研究、产品和面向客户的团队协作,为真实应用场景启用并优化AI模型
优先资格
具备LLMs、VLMs、Diffusion Models或MoE模型优化的实践经验
具备在边缘或异构计算平台(如CPU、GPU、NPU或DSP)上进行AI模型部署和优化的经验
具备高级低比特量化方法经验,如INT4/INT2、混合精度量化、GPTQ、AWQ、SpinQuant或相关技术
具备跨模型架构、编译器、运行时和硬件的性能剖析与系统级优化经验
理解硬件架构和平台特性,并有将硬件能力转化为模型级优化机会的经验
具备开发自动化模型接入、部署、基准测试或优化流水线的经验
具备模型压缩、量化、高效AI推理或相关领域的研究经验
在相关AI领域有论文、专利或开源贡献者优先
AI 洞察
优缺点分析
优点
- 工作内容处于端侧大模型和高效推理的关键方向,能够积累LLM、VLM、MoE等前沿模型的工程化经验
- 覆盖模型算法、编译器、运行时和硬件平台,技术栈完整,有利于形成系统级优化能力
- 与跨职能团队协作,有机会接触真实应用场景和客户侧需求,提升方案落地能力
- 岗位强调自动化流水线和生产级部署,成果较容易沉淀为可复用的平台能力
- 需要同时理解模型算法、软件栈和硬件架构,学习曲线较陡
- 前沿模型架构快速演进,量化、编译和端侧部署方案需要持续跟进和验证
- 性能、内存和精度之间存在复杂权衡,问题排查往往需要跨层分析和大量实验
缺点 / 挑战
- 适合具备AI模型训练或部署经验、希望深入端侧推理优化和异构计算平台的工程师,尤其适合喜欢系统性排查性能瓶颈和做工程化落地的人
角色解读
- 可向端侧AI推理专家、模型压缩与量化专家、AI编译器/运行时优化专家等方向深入发展
- 可逐步承担平台级优化路线设计,主导自动化模型部署体系或跨团队AI enablement平台建设
- 未来也可转向AI系统架构、边缘智能解决方案架构或技术管理岗位
- 负责将LLM、VLM、扩散模型、MoE等先进AI模型适配到边缘平台,完成从模型导出、图变换、量化、编译到端侧运行的全流程工作
- 围绕延迟、吞吐、内存占用和精度进行性能剖析与优化,定位模型、运行时、编译器和硬件加速器之间的瓶颈
- 建设自动化模型接入、转换、部署、基准测试和优化流水线,提高模型上线和迭代效率
- 与研究、工程、产品和客户团队协同,把新兴AI技术转化为可落地的端侧推理方案
- 需要扎实的深度学习基础和现代模型架构理解,尤其是Transformers、生成式AI和大规模模型
- 需要熟练使用PyTorch、ONNX和Python,并具备模型导出、转换、部署和调试能力
- 需要掌握INT8/INT4等低比特量化、PTQ/QAT、混合精度量化及相关压缩加速方法
- 需要理解CPU、GPU、NPU、DSP等异构平台特性,并能进行系统级性能剖析和硬件感知优化
申请策略
- 申请前建议了解高通在端侧AI、移动平台和边缘推理方向的产品与技术布局,确保回答能与业务场景结合
- 面试中尽量用量化指标说明优化成果,并解释取舍过程,而不仅描述使用过的工具
- 突出参与过的模型优化项目,明确说明使用的模型类型、目标平台、优化手段以及延迟、吞吐、内存、精度等指标变化
- 重点展示PyTorch、ONNX、Python、量化、模型转换、编译、运行时部署和性能剖析相关经验
- 如果有LLM、VLM、Diffusion Models、MoE或低比特量化经验,应单独列出并说明具体实现细节
- 强调自动化流水线建设经验,如模型接入、转换、benchmark、部署或回归验证平台
- 可补充INT8/INT4、GPTQ、AWQ、QAT、PTQ、混合精度量化等模型压缩与量化方法的实践
- 建议熟悉ONNX、模型图优化、推理运行时、profiling工具以及CPU/GPU/NPU/DSP等异构平台基础
面试指南
- 使用“背景—目标—方案—指标—复盘”的结构回答项目问题,重点说明优化前后的延迟、吞吐、内存和精度变化
- 对技术问题采用分层分析法:模型层、图优化层、量化层、编译层、运行时层和硬件平台层逐一排查
- 对方案设计题先明确约束条件,再说明技术选型、验证方法、风险点和可复用性
- 如何对一个LLM或VLM进行端侧部署?请说明从模型导出、量化、编译到运行时优化的完整流程
- INT8、INT4、PTQ和QAT分别适用于什么场景?它们在精度和性能上有哪些权衡?
- 如果模型在NPU或DSP上推理延迟过高,你会如何定位瓶颈并进行优化?
- 如何设计一套自动化模型接入、转换、部署和benchmark流水线?
- 请举例说明你如何平衡模型精度、内存占用和推理速度
职位点评
薪资福利72
成长发展88
工作生活45
使命价值76
薪资福利
72中等
JD未披露薪资与具体福利信息,因此补偿性动机只能基于岗位技术门槛和职责范围判断,存在一定吸引力但缺少明确薪酬证据。
薪资信号未披露(AI估算:3.5千–6.5万/月)
成长发展
88较高
岗位覆盖前沿模型、低比特量化、端侧部署、编译器与硬件感知优化,技术深度和跨层成长空间非常突出。JD还提到研究经验、论文专利和开源贡献加分,适合持续深耕AI系统优化的人。
技术前沿前沿/新兴技术
技术栈AI、AI Model Optimization、LLMs、VLMs、LVMs、Diffusion Models、MoE、Transformers、PyTorch、ONNX、INT8/INT4、PTQ、QAT、model conversion、compilation、runtime execution、profiling、edge platforms、CPU、GPU、NPU、DSP、GPTQ、AWQ、SpinQuant
成长机会Research experience、Publications, patents, or open-source contributions in relevant AI fields are a plus
业务类型ambiguous
工作生活
45较低
JD没有明确说明办公模式、弹性工时、远程天数或加班情况,生活化动机相关信息不足。工作地点仅标注为广东省,具体城市和通勤便利度仍需确认。
工作模式未明确
办公地点未明确
加班情况未提及(无法判断)
使命价值
76中等
岗位聚焦先进AI模型在边缘平台的高效部署,有助于推动端侧智能和生成式AI应用落地,技术价值较明确。JD未直接描述社会使命或公共价值导向,意义感主要来自技术前沿性和应用落地。
行业发展高速增长赛道
社会影响中性/一般
创新程度积极采用新技术
高通 的其他在招职位
相似职位推荐
Agent 开发工程师—人工智能研究院
三一集团 · 北京市
AI 估算 · 1.8–3.0万13 分钟前发布
Kernel Agent Infra 实习生
月之暗面 · 北京市
AI 估算 · 8.0千–1.5万36 分钟前发布
agent开发
瀚纳仕 · 北京市
AI 估算 · 4.0–7.0万1 小时前发布
算法研究员(J101312)
百度 · 北京市
AI 估算 · 3.5–6.5万2 小时前发布
大模型&Agentic RL实习生(J107371)
百度 · 北京市
AI 估算 · 8.0千–1.5万2 小时前发布
阿里妈妈-AI应用研发工程师-广告结算&风控平台&权益营销-杭州
天猫 · 杭州市
AI 估算 · 2.5–4.5万6 小时前发布
AI框架研发工程师(J14554)
中科曙光 · 天津市
AI 估算 · 2.5–4.0万6 小时前发布
大模型推理引擎研发工程师(J14553)
中科曙光 · 北京市
AI 估算 · 2.5–4.5万6 小时前发布
Watch Jobs