阿里巴巴
阿里云智能-服务器软硬件结合研发专家-深圳
阿里云智能-服务器软硬件结合研发专家-深圳
发布于 大约 21 小时前普通员工/个人贡献者
全职员工仅现场办公机器学习工程
机器学习工程
Ai模型优化
Gpu
Pytorch
Tensorrt-Llm
异构计算
性能优化
值不值得投
76综合评分
综合评分 76
前沿AI硬件优化岗位，技术挑战大，成长空间高，但WLB未明确
从薪资福利、成长空间、工作节奏和岗位方向综合评估，方便横向比较。
薪资怎么样
40K
比机器学习工程中位数高
发布情况
新岗位 · 今天发布
公司情况
这家公司招聘很活跃
约 2740 个在招 · 其中机器学习工程 约 160 个
市场机会
选择面较广
深圳 · 机器学习工程 · 71 个在招
职位详情
关于这个职位
该职位专注于视觉生成和多模态模型在GPU、ASIC、FPGA等异构硬件上的推理加速及软硬件结合性能优化
工作包括模型量化、attention优化、显存优化、编译优化、计算与通信优化等，并与硬件和算法工程师紧密协作提升整体推理速度与资源占用
需跟踪学术界与工业界前沿技术，推动软硬件协同创新
最低要求
计算机/电子/数学等相关专业，精通C++/Python/Rust，具备5年以上高性能计算或GPU相关软件开发经验
熟悉常用数据结构与算法
对计算机体系结构（如缓存/多线程/SIMD 等）有一定理解，能够深入性能瓶颈细节进行优化
熟悉主流AI框架（PyTorch/TensorFlow）及优化工具（TensorRT-LLM、TVM），有LLM或扩散模型等生成式AI场景的调优经验
对AI技术前沿有强烈兴趣，能快速学习并解决复杂技术问题，熟练掌握行业论文的分析能力
具有优秀的逻辑思维能力，能够适应AI软硬件结合技术的快速变化，能跟上主流AI优化技术的发展节奏
有强烈技术热情和好奇心，自驱力和学习力强
具备良好的分析与解决问题的能力、沟通以及团队合作能力
喜欢挑战性的技术研发工作，善于攻坚克难，有创新热情，积极乐观，坚韧抗压，结果导向，能够持续推动问题的解决和突破
工作职责
参与视觉生成/多模态模型（包括文本、图像、视频生成等）在 GPU、ASIC、FPGA 等异构硬件上的推理/后训练加速开发与软硬件结合的性能优化工作，包括但不限于模型量化、attention优化、显存优化、编译优化、计算与通信优化、内存管理以及多卡或多设备的并行推理方案等
在主流深度学习框架（如 PyTorch）基础上，基于GPU/xPU硬件特点，对关键算子进行软硬件结合优化，提升模型运行效率
与硬件以及算法工程师紧密配合，共同优化整体推理速度与资源占用
跟踪学术界与工业界前沿技术（如扩散模型优化、VAE并行优化、AI编解码、面向机器的编解码等），推动软硬件协同创新
优先资格
熟悉 AI 推理框架（如SGLang/vLLM 等），熟悉diffusers、modelscope等算法库
有高并发、低延迟服务的实践经验
懂GPU编程（如 CUDA/HIP）或对 FPGA/ASIC 加速有一定认知，对异构计算方向感兴趣
具有AIGC 领域相关工作经验（如 Stable Diffusion/Flux/Wan等DiT模型优化工作），如有成功落地项目经验更佳
熟悉AI编解码算法(如VCM/JPEG-AI/Mlic等)原理
掌握AI基础知识，掌握基础提示词工程，会使用Al专业工具，集成AI到个人工作流
有AI相关开发工具应用研发经验者优先，持有阿里云ACA/ACP/ACE认证证书者优先
AI 洞察
优缺点分析
优点
- 技术栈前沿，涉及GPU、ASIC、FPGA等异构计算和AI模型优化
- 公司平台大，有资源支持技术创新
- 行业增长快，AI软硬件结合领域有广阔发展空间
- 技术难度高，需要深入理解硬件和软件协同优化
- 对逻辑思维和问题解决能力要求严格
缺点 / 挑战
- 工作压力可能较大，需持续跟踪前沿技术
- 适合对AI软硬件结合有强烈兴趣、喜欢挑战性技术研发、具备扎实编程和性能优化经验的高级工程师
角色解读
- 向AI系统架构师或资深技术专家方向发展
- 在异构计算、AI编解码等前沿领域深化专长
- 转向硬件协同设计或技术管理岗位
- 负责视觉生成和多模态模型在GPU、ASIC、FPGA等异构硬件上的推理加速开发与性能优化
- 基于PyTorch等框架对关键算子进行软硬件结合优化，提升模型运行效率
- 与硬件和算法工程师协作，优化整体推理速度与资源占用
- 跟踪前沿技术如扩散模型优化、AI编解码，推动软硬件协同创新
- 精通C++/Python/Rust，具备5年以上高性能计算或GPU开发经验
- 熟悉计算机体系结构如缓存、多线程、SIMD，能深入性能瓶颈优化
- 掌握主流AI框架（PyTorch/TensorFlow）及优化工具（TensorRT-LLM、TVM），有生成式AI调优经验
- 具备快速学习能力和逻辑思维，能适应AI软硬件技术的快速变化
申请策略
- 研究阿里云智能在AI硬件优化方面的最新产品和论文
- 准备针对性能优化场景的技术深度面试
- 展示对AI技术前沿的敏锐度和学习能力
- 突出高性能计算、GPU/ASIC/FPGA开发经验及具体优化成果
- 强调AI框架使用和模型调优项目，如LLM或扩散模型优化
- 展示C++/Python/Rust编程能力和计算机体系结构知识
- 列举跟踪前沿技术并推动创新的实例
- 深入学习异构计算和GPU编程（如CUDA/HIP）
面试指南
- 使用STAR法则（情境、任务、行动、结果）结构化回答
- 结合具体项目经验，强调技术深度和优化效果
- 展示对硬件和软件协同的理解，避免泛泛而谈
- 如何优化一个视觉生成模型在GPU上的推理性能？请描述具体步骤
- 解释模型量化对性能和精度的影响，并举例说明应用场景
- 如何设计多卡并行推理方案以提升大模型效率？
- 你如何跟踪和评估AI前沿技术如扩散模型优化？
- 请分享一个你解决复杂性能瓶颈的案例
职位点评
薪资福利80
成长发展85
工作生活60
使命价值75
薪资福利
80较高
职位为高级技术岗，但JD未明确薪资和福利信息，具体补偿性需在面试中确认。
薪资信号未披露（AI估算：30K-50K/月）
成长发展
85较高
涉及AI前沿技术栈如GPU优化、异构计算，有持续学习和技术成长空间。
技术前沿前沿/新兴技术
技术栈GPU、PyTorch、TensorRT-LLM、ASIC、FPGA、AI编解码
业务类型ambiguous
工作生活
60中等
JD未提及工作模式和WLB信息，实际工作强度和办公灵活性需进一步了解。
工作模式未明确
办公地点未明确
加班情况未提及（无法判断）
使命价值
75中等
AI软硬件结合领域增长迅速，有技术创新机会，但社会影响力中性。
行业发展高速增长赛道
社会影响中性/一般
创新程度积极采用新技术
Watch Jobs