高通
Performance & Modeling Engineer
Performance & Modeling Engineer
发布于 1 天前普通员工/个人贡献者
全职员工仅现场办公算法优化工程师
算法优化工程师
Llm
Moe
Onnx
Pytorch
Tensorrt-Llm
Vllm
值不值得投
80综合评分
综合评分 80
跨国巨头前沿AI基础设施岗，技术成长空间极大，薪资竞争力强，但工作强度与交付压力需做好心理准备。
从薪资福利、成长发展、工作生活和使命价值四个维度综合评估，方便横向比较。
薪资怎么样
5.5万
比算法优化工程师中位数高
发布情况
新岗位 · 昨天发布
公司情况
这家公司招聘很活跃
约 310 个在招 · 其中算法优化工程师 2 个
市场机会
选择面较广
北京 · 算法优化工程师 · 约 360 个在招
职位详情
关于这个职位
该职位负责在高通云AI平台上部署、优化和基准测试先进的AI模型（如LLM、MoE和多模态模型）
你需要分析性能瓶颈，驱动图级、框架级和系统级优化，并与编译器、运行时等团队合作，为云规模AI部署提供最佳的推理效率
最低要求
计算机科学、人工智能、数学、电气工程或相关专业硕士及以上学历
具备良好的英语口头和书面沟通能力，能够有效地与全球团队协作
在Python、C++和Linux开发环境方面拥有丰富的经验
在云AI、LLM部署或AI基础设施方面拥有5年以上经验
深入理解Transformer架构、LLM和MoE模型
在图优化和模型编译工作流方面拥有丰富的经验
在模型准确性和性能优化方面拥有丰富的经验
熟练使用一种或多种AI框架，包括PyTorch、ONNX、TensorFlow或JAX
拥有AI服务框架（如vLLM、SGLang、TGI、TensorRT-LLM或LMDeploy）的使用经验
最低学历要求：工程、信息系统、计算机科学或相关专业学士学位并有2年以上软件工程或相关经验
或硕士学位并有1年以上相关经验
或博士学位
年以上使用C、C++、Java、Python等编程语言的学术或工作经验
工作职责
在高通云AI平台上部署和优化LLM、MoE和多模态模型
分析并提高模型的准确性、延迟、吞吐量、内存利用率和可扩展性
推动图级、框架级和系统级的优化
对AI工作负载进行基准测试，并识别软硬件堆栈中的性能瓶颈
与编译器、运行时、内核和架构团队紧密合作，改进模型的启用和性能
支持客户部署、启动、性能调优和生产就绪
优先资格
熟悉AI加速器平台和大规模推理系统
拥有量化、KV-Cache优化、推测解码、连续批处理、前缀缓存、并行策略和分布式推理方面的经验
拥有性能建模和分析方法论的经验，包括Roofline分析、跨软硬件堆栈的瓶颈识别
熟悉开源推理框架，如llama.cpp、Ollama或MLC-LLM
拥有Kubernetes、Docker和云原生AI基础设施的经验
AI 洞察
优缺点分析
优点
- 处于AI大模型与云基础设施结合的最前沿，能接触到行业领先的AI加速平台和海量算力资源
- 与全球顶尖的编译器、架构及内核团队协作，技术视野和能力提升空间巨大
- 跨国企业平台，具备完善的培训体系和全球化视野
- 大模型推理优化涉及软硬件全栈，技术门槛极高，需要持续跟进快速迭代的AI模型架构与底层硬件特性
- 适合具备扎实C++/Python功底、对底层系统优化和AI大模型推理有浓厚兴趣，且拥有5年以上相关经验的高级技术人才
缺点 / 挑战
- 跨团队和全球协作对沟通能力和项目管理能力提出较高要求，可能面临一定的交付压力
角色解读
- 可向AI系统架构师、AI基础设施技术专家或云AI团队技术负责人方向发展
- 在算力与算法结合的前沿领域积累深厚经验，成为大模型推理优化领域的顶尖专家
- 负责在高通云AI平台上部署和优化大语言模型（LLM）、混合专家模型（MoE）及多模态模型
- 分析并解决模型在延迟、吞吐量和内存利用率等方面的性能瓶颈，推动图级、框架级和系统级的深度优化
- 与编译器、内核及架构团队跨部门协作，提升模型推理效率并支持客户的生产环境部署
- 精通Python、C++及Linux开发环境，深入理解Transformer、LLM及MoE架构
- 具备丰富的AI框架（PyTorch、ONNX等）及推理服务框架（vLLM、TensorRT-LLM等）使用经验
- 熟悉模型编译与图优化工作流，具备跨软硬件栈的性能分析与调优能力
申请策略
- 了解高通云AI平台（如Cloud AI 100）的架构特点及其在推理场景下的优势，准备针对特定硬件平台的模型优化案例
- 突出在LLM/MoE模型部署、推理加速及显存优化方面的具体项目成果（如吞吐量提升百分比、延迟降低数据）
- 强调在vLLM、TensorRT-LLM等主流推理框架上的深度定制或源码级贡献经验
- 展示跨团队协作解决复杂系统级性能瓶颈的实际案例
- 深入学习Roofline性能分析模型及跨软硬件栈的瓶颈定位方法
- 熟悉最新的分布式推理技术（如并行策略、连续批处理、KV-Cache优化）
面试指南
- 采用STAR法则（情境、任务、行动、结果），重点突出“问题定位（Profiling） -> 根因分析 -> 优化方案（算法/系统/硬件层面） -> 量化收益”的完整闭环
- 请详细描述你如何优化一个LLM的推理延迟和吞吐量？使用了哪些具体技术（如KV-Cache、PagedAttention等）？
- 在图优化和模型编译工作流中，你遇到过最复杂的性能瓶颈是什么？如何定位并解决的？
- 请解释Roofline分析模型，并举例说明如何用它来指导软硬件协同优化
- 针对MoE（混合专家模型）的部署，与标准Transformer相比有哪些特殊的性能挑战及优化策略？
- 复习Transformer及MoE的底层计算逻辑，熟悉vLLM/TensorRT-LLM的源码或核心机制
- 准备1-2个自己主导的、具有显著性能提升指标的深度优化项目案例，确保能经得起技术细节的深挖
职位点评
薪资福利85
成长发展90
工作生活60
使命价值80
薪资福利
85较高
职位为高级技术岗，要求5年以上经验且涉及前沿AI大模型优化，一线城市薪资具备较强竞争力，跨国企业福利体系完善。
薪资信号未披露（AI估算：4.0千–7.0万/月）
成长发展
90较高
岗位处于AI大模型与云基础设施交叉的最前沿，能接触到顶尖的AI加速平台和全球技术团队，技术成长空间极大。
技术前沿前沿/新兴技术
技术栈LLM、MoE、Transformer、PyTorch、vLLM、TensorRT-LLM、Kubernetes、Docker、C++、Python
业务类型profit_center
工作生活
60中等
JD未明确提及工作模式与加班情况，但作为跨国企业的高级技术岗，通常具备一定的工作生活平衡，但大模型优化项目可能面临一定的交付压力。
工作模式未明确
办公地点科技园/产业园
加班情况未提及（无法判断）
使命价值
80较高
致力于推动云规模AI部署和推理效率提升，赋能行业领先的AI工作负载，具有较高的技术使命感与行业推动价值。
行业发展高速增长赛道
社会影响中性/一般
创新程度积极采用新技术
高通 的其他在招职位
相似职位推荐
Watch Jobs