高通
Senior/Staff AI Performance Engineer, Cloud AI (Hsinchu/Taipei)
Senior/Staff AI Performance Engineer, Cloud AI (Hsinchu/Taipei)
发布于 10 小时前普通员工/个人贡献者
全职员工仅现场办公机器学习工程
机器学习工程
Llm
Onnx
Pytorch
Vlm
分布式系统
推理优化
计算机体系结构
值不值得投
81综合评分
综合评分 81
GenAI前沿赛道、技术成长空间极大，适合追求硬核技术突破的资深AI工程师。
从薪资福利、成长空间、工作节奏和岗位方向综合评估，方便横向比较。
薪资怎么样
3.3万
比机器学习工程中位数低
发布情况
新岗位 · 今天发布
公司情况
这家公司招聘很活跃
约 220 个在招
职位详情
关于这个职位
该职位负责高通Cloud AI团队的推理加速软硬件解决方案开发
你将参与大模型（LLM/VLM）及扩散模型的性能分析与优化，使用PyTorch、ONNX和Triton进行模型转换、部署及底层算子开发，并与内部团队及客户紧密合作，推动AI工作负载在新一代硬件上的高效映射与落地
最低要求
计算机科学、工程、信息系统或相关专业学士学位，以及4年以上硬件工程、软件工程、系统工程或相关工作经验
或硕士学位及3年以上相关经验
或博士学位及2年以上相关经验
具备在生产环境中使用PyTorch、ONNX构建和优化语言模型的实践经验
深入理解Transformer架构、注意力机制及性能权衡
具备工作负载映射策略经验，展现分片或各种并行计算能力
具备扎实的Python编程技能
主动学习最新的推理优化技术
理解计算机体系结构、ML加速器、内存处理及分布式系统
具备较强的沟通、解决问题的能力，能够在快节奏和协作的环境中有效学习和工作
工作职责
使用PyTorch、ONNX转换、优化和部署模型以实现高效推理
站在GenAI前沿，理解高级算法（如注意力机制、MoE）和数值计算，以发现新的优化机会
对LLM、VLM和扩散模型进行推理性能分析和优化，扩展吞吐量并满足延迟约束
将下一代AI工作负载映射到当前和未来的硬件设计上
与客户密切合作，通过与内部编译器、固件和平台团队协作来推动解决方案
分析复杂的性能或稳定性问题，以找出潜在问题的最终根本原因
创建工程解决方案，以持续提供对AI工作负载性能的洞察，指导随时间的改进
设计和实现高级内核（例如使用Triton），专注于生成高效的底层代码
优先资格
具备神经网络算子和数学运算（包括线性代数和数学库）背景
理解机器学习编译器
具备收敛精度及其评估方法的经验
了解 torch.compile 或 torchDynamo
拥有计算机科学、计算机工程或机器学习博士学位
AI 洞察
优缺点分析
优点
- 处于GenAI和Cloud AI爆发的核心赛道，能接触到最前沿的大模型推理优化技术
- 依托强大的软硬件生态，能深入底层硬件与编译器，技术壁垒高
- 提供完善的工程规范与全球化协作机会
- 需要同时兼顾软件算法与底层硬件架构，技术跨度大，学习曲线陡峭
- 适合对底层系统、计算机体系结构有浓厚兴趣，且具备扎实深度学习模型优化经验的资深AI工程师
缺点 / 挑战
- 性能优化工作常面临极致的延迟与吞吐量指标压力，需具备极强的问题排查与Root Cause分析能力
角色解读
- 可向Staff/Principal AI Performance Engineer等资深技术专家路线发展，或转型为AI系统架构师
- 在GenAI和推理加速这一前沿领域积累的经验将极具行业竞争力
- 负责大模型（LLM/VLM）及扩散模型的推理性能分析与优化
- 使用PyTorch、ONNX和Triton进行模型转换、部署及底层算子开发
- 与内部编译器、固件团队及客户协作，将AI工作负载映射到新一代硬件
- 精通Python及PyTorch/ONNX等深度学习框架
- 深入理解Transformer架构、注意力机制及计算机体系结构
- 具备分布式系统、ML加速器及并行计算（如分片）的实战经验
申请策略
- 了解高通Cloud AI相关硬件平台的架构特点及推理加速方案，在面试中展现软硬件协同优化的思维
- 突出在LLM/VLM推理加速、算子优化（如Triton/CUDA）及模型量化/剪枝方面的具体项目成果
- 强调对Transformer底层机制的理解及在分布式/并行计算上的实战经验
- 深入学习torch.compile/torchDynamo等新一代编译优化技术
- 补充计算机体系结构、内存处理及ML编译器（如TVM/MLIR）的相关知识
面试指南
- 采用STAR法则，重点突出“性能瓶颈分析（Profiling） -> 优化策略（算法/系统/硬件层面） -> 最终收益（指标提升）”的闭环
- 对于底层原理问题，结合数学公式与硬件执行流进行解答
- 请详细描述你优化LLM推理延迟或吞吐量的具体案例，遇到了哪些瓶颈及如何解决？
- 在Transformer架构中，注意力机制的计算瓶颈通常在哪里？你会如何优化？
- 解释一下模型并行（如张量并行、流水线并行）的原理及在推理中的应用
- 如何使用Triton编写高效的自定义算子？与CUDA相比有什么优劣？
- 复习Transformer、MoE等主流模型架构的底层计算逻辑
- 准备1-2个深度性能调优的硬核项目案例，能够画出系统架构图或数据流图
职位点评
薪资福利85
成长发展90
工作生活65
使命价值80
薪资福利
85较高
该岗位为高级技术专家级别，薪资在台湾地区同类AI基础设施岗位中具备较强竞争力，福利体系完善。
薪资信号未披露（AI估算：2千–4.5万/月）
成长发展
90较高
处于GenAI和推理加速的最前沿，能深入接触底层硬件与编译器，技术成长空间极大。
技术前沿前沿/新兴技术
技术栈PyTorch、ONNX、Triton、LLM、VLM、Transformer、torch.compile、torchDynamo
业务类型profit_center
工作生活
65中等
JD未明确说明工作模式与加班情况，但Senior/Staff级别的性能优化岗位通常面临较高的技术指标压力，具体WLB情况需进一步确认。
工作模式未明确
办公地点科技园/产业园
加班情况未提及（无法判断）
使命价值
80较高
推动Cloud AI和GenAI的发展，赋能千行百业的AI应用落地，具有较高的行业价值与技术使命感。
行业发展高速增长赛道
社会影响中性/一般
使命信号play a central role in the evolution of Cloud AI
创新程度积极采用新技术
高通 的其他在招职位
相似职位推荐
Watch Jobs