高通
Data Center LLM Optimization Customer Engineer
Data Center LLM Optimization Customer Engineer
发布于 1 小时前普通员工/个人贡献者
全职员工仅现场办公AI算法
AI算法
Cuda/C++
Llm Optimization
Pytorch
值不值得投
80综合评分
综合评分 80
前沿AI推理优化技术、大厂平台背书、高技术壁垒、侧重技术深耕与发展
从薪资福利、成长发展、工作生活和使命价值四个维度综合评估，方便横向比较。
薪资怎么样
5.5万
比AI算法中位数高
发布情况
新岗位 · 今天发布
公司情况
这家公司招聘很活跃
约 360 个在招
市场机会
选择面较广
上海 · AI算法 · 78 个在招
职位详情
关于这个职位
负责高通云AI加速器上大语言模型（LLM）推理的部署与性能优化，直接对接战略客户与合作伙伴
主要工作包括分析模型架构瓶颈、实施量化/并行等优化技术、设计基准测试方案，并将客户需求转化为工程行动，以提升吞吐量、延迟及能效表现
最低要求
学历与经验要求：计算机科学、电子/计算机工程、AI/ML或相关领域的学士及以上学位，并满足以下任一条件：
学士学位 + 4年以上软件应用工程/软件开发经验
硕士学位 + 3年以上软件应用工程/软件开发经验
博士学位 + 2年以上软件应用工程/软件开发经验
具备2年以上C、C++、Java、Python等编程语言经验
具备1年以上调试技术经验
拥有强大的动手系统性能和工程实践经验
深入理解Transformer/LLM推理机制（注意力机制、KV Cache、Prefill/Decode行为等）
熟练使用Python和至少一种主流ML框架（如PyTorch）部署和剖析LLM工作负载
掌握模型优化技术（量化、批处理、内存优化、内核/运行时调优等）
理解分布式AI概念（多加速器执行、集体通信、Scale-Up/Scale-Out等）
具备强Linux技能，熟悉Docker/Kubernetes容器与编排概念
精通Python/Bash脚本编写与自动化，具备优秀的调试、问题解决及客户沟通能力
工作职责
在高通云AI加速器平台上部署和优化LLM及多模态推理工作负载，配置从单加速器到多节点/机架规模的方案
剖析并优化Prefill和Decode性能，包括TTFT、TPOT、令牌间延迟、吞吐量及每瓦性能
分析计算、加速器内存、主机内存、KV Cache、互连、网络及软件栈 across 模型架构和运行时的瓶颈
运用量化、批处理、KV-Cache管理、Paged Attention、提示/上下文长度调优及推测解码等技术优化模型执行
优化张量、流水线、数据、上下文及专家并行的分布式推理
表征AllReduce、AllGather等集体通信性能
评估并调整Scale-Up和Scale-Out性能，包括拓扑感知的工作负载放置、网络带宽/延迟及通信计算重叠
设计并执行可复现的基准测试和压力测试方法，识别饱和点和性能回归
启动并验证客户LLM及开源模型
建立性能基线、优化计划及竞争/生产就绪报告
与运行时、编译器、固件、驱动、平台、网络及模型团队合作，调试跨层性能问题并解决根本原因
构建基于Python/Bash的分析、基准测试、自动化工具
文档化可重用的优化配方和最佳实践
直接在评估、PoC、Design-win及生产阶段与客户合作，将工作负载需求转化为清晰的工程行动，并向技术和业务利益相关者沟通性能权衡
优先资格
有高高性能LLM Serving栈或优化框架使用经验，如vLLM、TensorRT-LLM、SGLang、Hugging Face Transformers、DeepSpeed等
熟悉Llama、Qwen、DeepSeek、Mixtral等模型家族及多模态模型
了解MoE架构、专家并行、Token路由及AllToAll通信性能
具备RDMA/RoCE/InfiniBand或以太网AI fabrics、NUMA/拓扑感知及分布式性能分析经验
熟悉MLPerf Inference方法论、生产可观测性、CI/CD性能回归测试及容量规划
有支持服务器、机架或集群规模AI加速器客户PoC或生产部署的经验
AI 洞察
优缺点分析
优点
- 接触最前沿的大模型推理优化技术，参与高通核心AI战略项目，技术壁垒高，行业稀缺性强
- 需同时兼顾底层硬件特性与上层模型算法，技术栈极深
- 直接面对客户，对沟通与问题解决能力要求极高
- 适合热衷于底层系统优化、对AI基础设施有浓厚兴趣且具备极强抗压与解决问题能力的资深工程师
缺点 / 挑战
暂无明显挑战项
角色解读
- 可向首席AI系统架构师、高级技术专家方向发展，或转向更广泛的AI基础设施解决方案架构领域
- 作为连接高通硬件加速能力与客户AI需求的桥梁，负责在大模型推理场景下挖掘硬件极限性能
- 需要深厚的深度学习框架底层知识、分布式系统架构理解以及极强的Linux系统级调试与性能剖析能力
申请策略
- 准备具体的性能调优案例，重点阐述如何定位瓶颈（如KV Cache溢出、通信墙）及最终解决方案
- 突出LLM推理性能优化的具体案例，展示通过量化、并行策略等手段提升吞吐/降低延迟的数据成果
- 深入研读vLLM/TensorRT-LLM源码，强化对Transformer底层算子及GPU/NPU内存管理的理解
面试指南
- 采用STAR法则：情境（大规模模型部署难点）、任务（性能指标目标）、行动（具体技术手段如算子融合、内存复用）、结果（量化后的性能提升百分比）
- 请详细描述你优化过的一个LLM推理场景，遇到的最大瓶颈是什么？
- 如何平衡量化带来的精度损失与性能提升？
- 在多卡分布式训练中，如何解决通信开销导致的扩展效率下降？
- 请解释Prefill和Decode阶段的不同优化策略及其原因
- 复习Transformer架构细节，熟悉主流LLM Serving框架原理，准备1-2个深度技术攻坚项目的完整复盘
职位点评
薪资福利85
成长发展92
工作生活60
使命价值75
薪资福利
85较高
作为已上市的跨国巨头，提供具有市场竞争力的薪酬及完善的福利体系，符合资深技术人才的价值回报预期。
薪资信号市场水准 (4.0千–7.0万/月)
成长发展
92较高
处于AI大模型推理优化的前沿领域，技术栈极具前瞻性和挑战性，能极大提升个人在AI基础设施领域的专业深度。
技术前沿前沿/新兴技术
技术栈LLM、PyTorch、vLLM、TensorRT-LLM、Distributed AI、Quantization
业务类型profit_center
工作生活
60中等
作为面向客户的工程支持角色，可能需要配合客户时区或项目进度进行弹性工作，WLB取决于具体项目周期，整体中等。
工作模式未明确
办公地点科技园/产业园
加班情况未提及（无法判断）
使命价值
75中等
推动生成式AI在云端的高效落地，助力客户实现AI商业化，具有较高的行业影响力和技术应用价值。
行业发展高速增长赛道
社会影响中性/一般
创新程度积极采用新技术
高通 的其他在招职位
相似职位推荐
外运华东-外运长江-科技赋能中心-AI 开发工程师岗（2027年秋招）(J34278)
中国外运 · 南京市
AI 估算 · 8.0千–1.5万1 小时前发布
Intern_AI Development Engineer企业AI开发实习生
奔驰 · 北京市
AI 估算 · 0.3–0.4千1 小时前发布
点评技术-大模型算法专家
美团 · 上海市
AI 估算 · 4.0–7.0万16 小时前发布
Industrial Engineering ES
德科斯米尔 · 沈阳市
AI 估算 · 1.8–3.0万16 小时前发布
业务技术-AI Agent 后训练专家-杭州
阿里巴巴 · 杭州市
AI 估算 · 4.0–7.0万16 小时前发布
研究型实习生-多模态通用和推理大模型后训练研究
阿里巴巴 · 杭州市
AI 估算 · 4.0–6.0千16 小时前发布
阿里妈妈-AI应用算法工程师-AI Data & Decision Intelligence
阿里巴巴 · 杭州市
AI 估算 · 3.0–6.0万16 小时前发布
集团安全部-反爬算法专家-AI-native
阿里巴巴 · 杭州市
AI 估算 · 4.0–7.0万16 小时前发布
Watch Jobs