阿里巴巴
阿里云智能-AI Infra视频媒体软硬件结合优化-深圳or上海
阿里云智能-AI Infra视频媒体软硬件结合优化-深圳or上海
发布于 4 小时前普通员工/个人贡献者
全职员工仅现场办公高性能计算
高性能计算
Cuda
Gpu
Pytorch
Tensorrt-Llm
Tvm
异构计算
模型量化
值不值得投
78综合评分
综合评分 78
核心AI Infra岗，前沿技术栈与高成长空间，薪资预期高但技术攻坚压力较大。
从薪资福利、成长发展、工作生活和使命价值四个维度综合评估，方便横向比较。
薪资怎么样
6万
比高性能计算中位数高
发布情况
新岗位 · 今天发布
公司情况
这家公司招聘很活跃
约 3390 个在招 · 其中高性能计算 21 个
市场机会
选择不多
深圳 · 高性能计算 · 5 个在招
职位详情
关于这个职位
该职位主要负责视觉生成与多模态模型在GPU、ASIC等异构硬件上的推理加速与软硬件协同优化
你需要深入底层硬件特性，对关键算子和框架进行性能调优，并与算法团队紧密合作，推动AI编解码等前沿技术的落地
适合具备扎实底层开发能力且对AI Infra充满热情的技术专家
最低要求
计算机/电子/数学等相关专业，精通C++/Python/Rust，具备5年以上高性能计算或GPU相关软件开发经验
熟悉常用数据结构与算法
对计算机体系结构（如缓存/多线程/SIMD 等）有一定理解，能够深入性能瓶颈细节进行优化
熟悉主流AI框架（PyTorch/TensorFlow）及优化工具（TensorRT-LLM、TVM），有LLM或扩散模型等生成式AI场景的调优经验
对AI技术前沿有强烈兴趣，能快速学习并解决复杂技术问题，熟练掌握行业论文的分析能力
具有优秀的逻辑思维能力，能够适应AI软硬件结合技术的快速变化，能跟上主流AI优化技术的发展节奏
有强烈技术热情和好奇心，自驱力和学习力强
具备良好的分析与解决问题的能力、沟通以及团队合作能力
喜欢挑战性的技术研发工作，善于攻坚克难，有创新热情，积极乐观，坚韧抗压，结果导向，能够持续推动问题的解决和突破
工作职责
参与视觉生成/多模态模型（包括文本、图像、视频生成等）在 GPU、ASIC、FPGA 等异构硬件上的推理/后训练加速开发与软硬件结合的性能优化工作，包括但不限于模型量化、attention优化、显存优化、编译优化、计算与通信优化、内存管理以及多卡或多设备的并行推理方案等
在主流深度学习框架（如 PyTorch）基础上，基于GPU/xPU硬件特点，对关键算子进行软硬件结合优化，提升模型运行效率
与硬件以及算法工程师紧密配合，共同优化整体推理速度与资源占用
跟踪学术界与工业界前沿技术（如扩散模型优化、VAE并行优化、AI编解码、面向机器的编解码等），推动软硬件协同创新
优先资格
熟悉 AI 推理框架（如SGLang/vLLM 等），熟悉diffusers、modelscope等算法库
有高并发、低延迟服务的实践经验
懂GPU编程（如 CUDA/HIP）或对 FPGA/ASIC 加速有一定认知，对异构计算方向感兴趣
具有AIGC 领域相关工作经验（如 Stable Diffusion/Flux/Wan等DiT模型优化工作），如有成功落地项目经验更佳
熟悉AI编解码算法(如VCM/JPEG-AI/Mlic等)原理
掌握AI基础知识，掌握基础提示词工程，会使用Al专业工具，集成AI到个人工作流
有AI相关开发工具应用研发经验者优先，持有阿里云ACA/ACP/ACE认证证书者优先
AI 洞察
优缺点分析
优点
- 处于AI大模型与算力优化的核心赛道，技术壁垒高，个人技术价值与行业影响力大
- 依托丰富的业务场景与海量算力资源，能接触到业界最前沿的软硬件协同优化实践
- 团队技术氛围浓厚，与顶尖算法及硬件专家共事，有利于拓宽技术视野与解决复杂问题的能力
- 适合对底层技术有极致追求、具备扎实C++/GPU编程功底，且渴望在AI Infra领域深耕的高级技术人才
缺点 / 挑战
- AI软硬件结合技术迭代极快，需要持续投入大量精力跟踪前沿论文与新技术，学习压力大
- 底层性能优化工作往往面临极致的工程挑战，排查和解决深水区Bug的过程可能较为枯燥和煎熬
角色解读
- 纵向可发展为AI Infra领域的资深技术专家或首席科学家，主导底层算力架构演进
- 横向可拓展至AI芯片设计、大模型系统架构或AI编译器开发等前沿交叉领域
- 负责视觉生成与多模态大模型在GPU、ASIC等异构硬件上的推理与后训练加速，解决底层算力瓶颈
- 深入PyTorch等主流框架，针对硬件特性进行算子级优化，提升模型运行效率与资源利用率
- 跟踪扩散模型、AI编解码等前沿技术，与算法和硬件团队协同，推动软硬件结合的创新落地
- 精通C++/Python/Rust，具备5年以上高性能计算或GPU软件开发经验，熟悉计算机体系结构
- 熟练掌握PyTorch/TensorFlow及TensorRT-LLM、TVM等优化工具，有LLM或扩散模型调优经验
- 具备扎实的算法基础与论文阅读能力，能快速跟进AI软硬件结合的前沿技术并解决复杂工程问题
申请策略
- 提前了解公司在视频媒体与多模态大模型方向的最新业务布局，面试时结合业务场景阐述技术思考
- 重点突出在GPU/CUDA编程、异构计算或AI推理框架（如vLLM、TensorRT-LLM）方面的实际优化成果与性能提升数据
- 详细列举参与过的LLM或扩散模型（如Stable Diffusion）的软硬件协同优化项目，强调解决过的核心性能瓶颈
- 展示对计算机体系结构的深入理解，以及在C++/Rust等语言上的高性能开发经验
- 深入学习AI编译器（如TVM、MLIR）及主流推理框架的底层源码，提升算子级优化能力
- 关注并实践最新的AI编解码技术（如JPEG-AI）及DiT模型架构，保持对前沿技术的敏锐度
面试指南
- 采用STAR法则：明确性能瓶颈（Situation），分析硬件特性与算法原理（Task），采取的具体优化手段如量化/算子重写/通信隐藏（Action），最终量化的性能提升指标（Result）
- 在回答底层优化问题时，展现从算法逻辑到硬件微架构（如缓存命中率、内存带宽、指令流水线）的穿透思考能力
- 请详细描述一次你在GPU或异构硬件上进行算子优化或显存优化的经历，具体提升了多少性能？
- 在PyTorch框架下，如何针对Transformer或Diffusion模型的关键算子进行软硬件结合的优化？
- 面对多卡或多设备的并行推理场景，你是如何设计计算与通信优化方案的？
- 如何跟踪和评估学术界最新的模型优化技术（如VAE并行优化），并将其落地到工业界？
- 复习CUDA编程模型、GPU内存层级结构以及主流AI推理框架的底层实现机制
- 准备1-2个自己主导的、具有技术深度的性能优化项目案例，能够经受住面试官的连环追问
职位点评
薪资福利85
成长发展90
工作生活50
使命价值80
薪资福利
85较高
该职位为5年以上经验的高级技术岗，处于AI核心底层领域，结合深圳/上海的城市市场水平，薪资回报预期较高。
薪资信号未披露（AI估算：4.5千–7.5万/月）
成长发展
90较高
职位聚焦多模态模型在异构硬件上的加速优化，涉及GPU、ASIC等前沿技术，技术深度与成长空间广阔。
技术前沿前沿/新兴技术
技术栈C++、Python、Rust、PyTorch、GPU、CUDA、TensorRT-LLM、TVM、vLLM、SGLang
业务类型ambiguous
工作生活
50较低
JD未明确提及工作模式与WLB信息，且岗位要求中提及'坚韧抗压'与'攻坚克难'，暗示可能存在一定的技术攻坚压力。
工作模式未明确
办公地点科技园/产业园
加班情况JD含高强度暗示词
使命价值
80较高
职位致力于推动软硬件协同创新与AI编解码等前沿技术落地，对提升AI算力效率具有直接的技术推动价值。
行业发展高速增长赛道
社会影响中性/一般
使命信号推动软硬件协同创新
创新程度积极采用新技术
Watch Jobs