亚马逊
Senior Machine Learning Engineer, Generative AI Innovation Center
Senior Machine Learning Engineer, Generative AI Innovation Center
发布于 6 个月前普通员工/个人贡献者
上海市 / 北京市
高级经验
全职员工
仅现场办公
本科
软件工程
分布式训练
机器学习
模型优化
AI加速器
DeepSpeed
LLM
RLHF
AI 估算 · 45k–85k
该职位要求高级AI工程经验，涉及前沿的生成式AI和大模型技术，技能门槛高，市场人才稀缺，因此薪资竞争力强。
职位详情
关于这个职位
这是一个专注于生成式AI创新的高级机器学习工程师职位
你将加入AWS的生成式AI创新中心，负责为顶级客户定制和部署大规模语言模型（LLM）
核心工作包括设计分布式训练流水线、针对不同应用场景微调LLM，以及将模型优化部署在AWS自研的AI加速芯片上
你将站在AI技术前沿，解决大规模端到端模型训练和部署的挑战
最低要求
年以上非实习专业软件开发经验
年以上至少一种软件编程语言编程经验
年以上领导新系统和现有系统的设计或架构（设计模式、可靠性和扩展性）经验
具备导师、技术负责人或领导工程团队的经验
工作职责
大规模训练流水线：使用完全分片数据并行（FSDP）和DeepSpeed等工具，为LLM设计和实施分布式训练流水线，确保可扩展性和效率
LLM定制与微调：通过持续预训练、微调和基于人类反馈的强化学习（RLHF），使LLM适应新的语言、领域和视觉应用
在AWS Silicon上的模型优化：利用AWS Neuron SDK并开发自定义内核，优化AI模型以部署在AWS Inferentia和Trainium上，从而提升性能
客户协作：与企业客户和基础模型提供商互动，了解他们的业务和技术挑战，共同开发量身定制的生成式AI解决方案
优先资格
年以上完整的软件开发生命周期经验，包括编码标准、代码审查、源代码控制管理、构建过程、测试和运维经验
计算机科学学士学位或同等学历
AI 洞察
优缺点分析
优点
- 平台优势：在AWS和亚马逊的顶级平台上工作，能接触最前沿的AI技术和海量真实业务场景
- 技能积累：深度参与从模型训练到硬件部署的全栈AI工程，技术栈全面且含金量高
- 行业前景：生成式AI是当前最热门的领域之一，在此积累的经验极具市场价值和未来潜力
- 工作强度可能较大：涉及客户项目交付，可能面临紧追的时间线和高质量要求
- 知识更新快：AI领域技术迭代迅猛，需要持续学习以保持技术领先性
- 适合拥有扎实机器学习工程背景，对生成式AI和大模型技术有强烈热情，并希望在前沿技术平台解决复杂实际问题的资深工程师
缺点 / 挑战
- 客户视野：直接服务各行业头部客户，能快速理解AI在不同领域的落地挑战和价值
- 技术难度高：需要同时应对大规模分布式系统、复杂模型算法和硬件优化等多重技术挑战
角色解读
- 技术深度上，可向AI系统架构师、首席科学家方向发展，专注于更底层的模型算法或硬件协同优化
- 业务广度上，可转向AI产品经理或解决方案架构师，负责从技术到商业落地的全链条
- 管理路线上，可凭借技术领导力，发展为AI团队的技术负责人或工程经理
- 你将负责设计和实施大规模语言模型的分布式训练流水线，确保模型训练的高效和可扩展
- 你需要针对不同客户的具体业务场景（如新语言、新领域）对现有LLM进行定制化微调和优化
- 你的工作包括将优化后的AI模型部署到AWS自研的AI加速硬件上，并可能开发自定义内核以提升性能
- 你需要与外部企业客户和模型提供商直接协作，理解需求并共同开发解决方案
- 扎实的机器学习和大模型理论基础，精通LLM的训练、微调（包括RLHF）和优化流程
- 丰富的分布式系统和大规模数据处理经验，熟悉如DeepSpeed、FSDP等分布式训练框架
- 强大的软件工程和系统架构能力，能够设计可靠、可扩展的AI系统和服务
- 良好的沟通和协作能力，能够与跨职能团队及外部客户进行有效技术交流
申请策略
- 深入了解AWS生成式AI创新中心的公开案例和技术博客，在申请和面试中展现你对团队业务的认知
- 准备1-2个能体现你解决复杂问题、技术选折和跨团队协作能力的完整项目故事
- 重点突出与大规模机器学习模型（尤其是LLM）训练、微调或部署相关的项目经验，量化你的贡献和成果
- 详细描述你使用过分布式训练框架（如DeepSpeed、PyTorch DDP）和云平台（AWS相关服务最佳）的经验
- 展示你在软件开发生命周期中的领导或核心贡献角色，例如系统设计、代码审查或团队指导经验
- 如果有与外部客户协作或将技术方案成功落地的经历，务必清晰阐述你在其中的角色和价值
- 若对AWS Inferentia/Trainium或Neuron SDK不熟悉，可提前了解其架构和优化原理
- 深入理解RLHF、提示工程等LLM高级微调技术，并准备相关的实践或学习案例
面试指南
- 对于技术问题，采用“情境-任务-行动-结果”的结构来回答，清晰说明背景、你的角色、具体行动和最终可量化的成果
- 对于系统设计或方案类问题，先明确需求和约束，然后分层阐述你的设计思路（数据、训练、推理、监控等），最后讨论权衡和可能的优化点
- 对于行为类问题，重点展示你的解决问题能力、技术领导力和协作精神，而不仅仅是技术细节
- 请描述你参与过的最复杂的一个机器学习项目，你在其中负责什么？遇到了什么挑战，如何解决的？
- 你如何为一个新的业务场景（例如小语种文本生成）设计和实施一个LLM微调方案？
- 请解释一下FSDP或DeepSpeed的工作原理，以及你在项目中是如何应用它们来优化训练的？
- 如果有一个模型在CPU上推理很慢，但需要部署到AWS Inferentia上，你会从哪些方面进行优化？
- 请分享一次你与客户或非技术团队成员成功协作的经历
职位点评
Watch Jobs