知乎
AI Infra 工程师（28届）
AI Infra 工程师（28届）
发布于 大约 15 小时前普通员工/个人贡献者
全职员工仅现场办公人工智能
人工智能
Deepspeed
Gpu优化
Megatron-Lm
Nccl
Pytorch
Vllm
分布式训练
性能优化
值不值得投
72综合评分
综合评分 72
前沿AI Infra岗位，技术成长快，但工作强度可能较大。
从起薪待遇、成长路径、工作节奏和岗位方向综合评估，方便比较职业起点。
薪资怎么样
30K
比人工智能中位数低
发布情况
新岗位 · 今天发布
公司情况
这家公司招聘很活跃
约 130 个在招
市场机会
选择适中
深圳 · 人工智能 · 20 个在招
职位详情
关于这个职位
作为知乎AI Infra工程师，你将参与大模型训练与推理基础设施的建设与优化，包括分布式训练性能调优、推理引擎研发、GPU集群调度与可观测性建设
该岗位面向2028届毕业生，要求扎实的计算机基础和对深度学习框架的初步理解，适合对AI系统性能优化充满热情的同学
最低要求
计算机、软件工程、人工智能、电子工程或相关专业，本科及以上学历
具备扎实的计算机基础，理解操作系统、计算机网络、数据结构、并发编程中的基本概念
熟悉 Linux 开发环境，熟练使用 Python，并掌握 C++、Go、Rust 中至少一种语言
使用过 PyTorch、JAX、PaddlePaddle 等至少一种深度学习框架，对大模型训练或推理流程有基本理解
具备良好的工程能力，能够编写可维护的代码，并通过日志、监控、Profiler 和最小化实验定位问题
对性能数据敏感，能够使用吞吐、延迟、显存、资源利用率、任务成功率等指标验证优化效果
具备良好的学习能力、责任心和协作意识，愿意处理跨模型、框架与基础设施边界的复杂问题
工作职责
根据个人经验和团队方向，参与以下一个或多个方向：
建设大模型预训练、微调及强化学习基础设施，支持多机多卡任务编排、资源调度、断点恢复和故障容错
优化分布式训练性能，分析计算、通信、显存、数据读取和负载不均衡等瓶颈，提升 GPU 利用率与训练吞吐
参与大模型推理服务和推理引擎研发，优化批处理、KV Cache、并行策略、模型加载、请求调度及显存管理
建设 GPU 集群的任务调度、监控告警和可观测性能力，定位训练或推理过程中跨框架、网络、存储及硬件的复杂问题
将重复的排障和交付过程沉淀为工具、自动化流程与工程规范，提升算法团队的实验和迭代效率
跟进分布式训练、推理系统、AI 编译器和高性能计算方向的前沿工作，完成工程验证并推动落地
优先资格
加分项：
理解张量并行、流水线并行、数据并行、序列并行或专家并行等技术
熟悉连续批处理、Paged Attention、KV Cache、量化、投机解码或计算通信重叠
使用过 Nsight Systems、PyTorch Profiler、Prometheus、Grafana 等性能分析或可观测性工具
对 GPU 架构、NCCL Collective、RDMA、GPUDirect 或高性能存储有实践经验
在 PyTorch、vLLM、SGLang、Megatron-LM、DeepSpeed、verl 等项目中有贡献
有 MLSys、OSDI、SOSP、NSDI、EuroSys、NeurIPS、ICML 等相关论文或高质量技术成果
AI 洞察
优缺点分析
优点
- AI Infra是当前热门方向，技术含量高，成长空间大
- 知乎作为上市公司，平台稳定，能接触真实大模型业务场景
- 团队方向多元，可接触训练、推理、调度等多个领域，技能积累全面
- 技术难度高，需要快速学习分布式系统、GPU优化等知识
- 工作强度可能较大，需要处理复杂问题，可能面临加班
- 竞争激烈，需要持续跟进前沿技术
缺点 / 挑战
- 适合对AI系统底层技术有浓厚兴趣，具备扎实计算机基础，喜欢挑战复杂问题的应届生
角色解读
- 从AI Infra工程师成长为分布式系统专家，深入GPU优化和集群调度
- 可向AI编译器、高性能计算方向发展，成为技术专家
- 有机会晋升为技术团队负责人，带领团队建设基础设施
- 参与大模型训练和推理基础设施的建设，包括任务编排、资源调度、断点恢复等
- 优化分布式训练性能，分析计算、通信、显存等瓶颈，提升GPU利用率
- 研发推理引擎，优化批处理、KV Cache、并行策略等，提升推理效率
- 建设GPU集群的监控告警和可观测性，定位复杂问题
- 扎实的计算机基础，熟悉操作系统、网络、数据结构、并发编程
- 熟练使用Python，掌握C++/Go/Rust至少一种，熟悉Linux开发环境
- 熟悉PyTorch等深度学习框架，了解大模型训练或推理流程
- 具备性能优化意识，能使用Profiler等工具定位问题
申请策略
- 关注知乎AI方向的技术博客，了解团队技术栈
- 在简历中突出与AI Infra相关的项目，即使不是正式工作
- 突出分布式训练或推理相关项目经验，如使用过Megatron-LM、vLLM等
- 强调性能优化成果，如提升GPU利用率的具体数据
- 展示开源贡献或竞赛成绩，体现技术热情
- 提前学习分布式训练框架，如DeepSpeed、FSDP
- 熟悉GPU性能分析工具，如Nsight Systems、PyTorch Profiler
- 了解Kubernetes和GPU调度
面试指南
- 回答技术问题时，先明确概念，再结合项目经验，最后提出优化思路
- 请解释分布式训练中的数据并行和模型并行区别
- 如何优化PyTorch训练中的GPU利用率？
- 描述一次你排查分布式训练故障的经历
- 你了解vLLM的Paged Attention吗？
- 如何设计一个GPU集群的任务调度系统？
- 复习分布式系统基础，如通信、一致性
- 准备一个性能优化案例，展示分析过程
职位点评
薪资福利70
成长发展90
工作生活50
使命价值60
薪资福利
70中等
薪资水平较高，但未明确福利，整体补偿性一般。
薪资信号未披露（AI估算：25K-35K/月）
成长发展
90较高
技术前沿，成长空间大，有明确的技能提升路径。
技术前沿前沿/新兴技术
技术栈分布式训练、vLLM、Megatron-LM、DeepSpeed、CUDA、Kubernetes
业务类型ambiguous
工作生活
50较低
仅现场办公，未提及弹性工作，工作强度可能较大。
工作模式仅现场办公
办公地点科技园/产业园
加班情况未提及（无法判断）
使命价值
60中等
AI基础设施对社会有积极影响，但知乎的使命导向不明显。
行业发展高速增长赛道
社会影响中性/一般
创新程度积极采用新技术
Watch Jobs