稀宇科技
AI推理框架工程师-2027届
AI推理框架工程师-2027届
发布于 大约 17 小时前普通员工/个人贡献者
北京市 / 上海市
无经验要求
全职员工
仅现场办公
本科
软件工程
分布式系统
算法
性能分析
高性能计算
系统架构
计算机体系结构
GPU编程
推理引擎
AI 估算 · 20k–35k
AI赛道人才稀缺，校招薪资有竞争力，B轮公司期权空间，北京上海生活成本高，预估月薪25-35k。
职位详情
关于这个职位
作为AI推理框架工程师，你将专注于为大模型端到端推理任务构建高性能服务，深入GPU底层进行极限性能优化，并主导推理系统架构的演进
该职位要求扎实的计算机体系结构知识、精通C/C++和Python，适合对性能优化有极致追求、渴望在AI基础设施领域深耕的技术人才
最低要求
计算机或相关专业，2027届本科及以上学历
具备出色的端到端性能瓶颈分析能力，能够透彻理解并解释性能表现的底层原理（包括但不限于深度的 GPU 性能剖析与调优）
拥有深厚的编程功底和优秀的代码品位，具备扎实的数据结构与算法基础
深入理解计算机体系结构与操作系统基本原理
精通 C/C++，熟练掌握 Python，具备构建大规模、高质量工程代码的能力
具备极强的系统可靠性保障意识，在服务监控报警、容灾降级等方面有成熟的思考或实战经验
具备优秀的团队协作精神与跨部门沟通能力，责任心强
拥有强烈的技术好奇心与自驱力，学习能力出众
工作职责
极致推理服务构建：针对特定端到端推理任务，设计并实现符合 zero-overhead 极致标准的高性能推理服务
底层算力挖掘：深入底层体系结构，针对特定计算硬件（如 GPU 等）进行极限性能优化与算力挖掘
系统架构演进：主导端到端推理系统架构的前瞻性研究、核心模块开发以及长期的迭代维护
前沿算法落地：追踪并研究业界前沿的性能优化技术，开展相关算法的探索与工程落地工作
优先资格
【加分项】
顶尖竞赛：在 ACM-ICPC、NOI/IOI、IMO、ASC 等国内外顶级编程、算法或超算竞赛中获得优异名次
高水平科研：在高性能计算、计算机体系结构、人工智能等领域的国际顶级会议（如 MLSys, OSDI, SOSP, ISCA, ASPLOS, NeurIPS, ICML 等）发表过高质量学术论文
重磅荣誉：曾获得国家奖学金、CCF 优秀大学生等国家级重要奖项或同等高含金量的学术荣誉
开源贡献：在业界主流开源大模型训练/推理框架或底层系统项目中有过核心代码贡献
AI 洞察
优缺点分析
优点
- AI推理是当前最热门的技术方向之一，底层性能优化需求旺盛，技能保值性强
- 稀宇科技作为AI初创公司，B轮融资阶段，技术氛围浓厚，可参与核心系统建设
- 工作内容兼具深度（GPU底层）与广度（系统架构），技术成长快
- 技术门槛高，需要同时掌握体系结构、操作系统、分布式系统等多领域知识
- 适合计算机基础扎实、对底层性能优化有强烈兴趣、渴望在AI基础设施领域成为顶尖技术的应届生
缺点 / 挑战
- 团队对技术极致追求，适合热衷挑战的技术极客
- 对性能有极致要求，工作压力大，需要投入大量时间进行调优和排查问题
- 作为校招岗位，对独立解决问题的能力要求较高，可能缺乏成熟的指导体系
角色解读
- 可从AI推理工程师发展为系统架构师或技术专家，负责更大规模的AI基础设施
- 可横向拓展至大模型训练框架、编译器优化等相邻领域
- 随着AI应用爆发，具备GPU底层优化能力的人才缺口大，职业前景广阔
- 设计并实现极致性能的AI推理服务，追求零开销的优化目标
- 深入GPU底层进行性能剖析和调优，挖掘硬件极限算力
- 主导推理系统架构演进，负责核心模块开发与长期维护
- 跟踪前沿性能优化技术，探索并落地新的算法优化方案
- 精通C/C++和Python，具备构建大规模高质量代码的能力
- 深入理解计算机体系结构和操作系统原理
- 掌握GPU性能分析和调优技术（如CUDA、NVIDIA工具链）
- 具备性能瓶颈分析和系统可靠性保障意识
申请策略
- 了解稀宇科技的技术栈和产品方向，在面试中展现对AI推理场景的理解
- 提前准备一个系统设计问题，如“如何设计一个低延迟的推理服务”
- 突出GPU相关项目经验，例如CUDA编程、算子优化、性能剖析等
- 展示竞赛成绩（如ACM、超算竞赛）或开源贡献（如对PyTorch、vLLM等框架的贡献）
- 强调系统能力：操作系统、体系结构相关的课程项目或研究
- 用具体数据说明性能优化成果（如延迟降低、吞吐提升百分比）
- 深入学习CUDA编程和GPU架构（如NVIDIA Ampere、Hopper）
- 熟悉主流推理框架（如TensorRT、ONNX Runtime、vLLM）的实现原理
面试指南
- 对于性能优化问题，采用“问题定位-瓶颈分析-优化方案-效果验证”的步骤阐述
- 对于系统设计问题，先明确约束条件（延迟、吞吐、可用性），再分层设计（负载均衡、缓存、容灾）
- 对于底层原理问题，结合体系结构知识，从硬件特性和软件开销两方面回答
- 请描述一次你进行GPU性能优化的经历，使用了哪些工具？优化了哪些指标？
- C++中虚函数的实现原理是什么？如何影响性能？
- 解释TCP拥塞控制算法，并说明在推理服务中如何优化网络延迟？
- 如何设计一个高可用的推理系统？需要考虑哪些容灾策略？
- 给定一个矩阵乘法，如何在GPU上实现高性能？请从内存访问、线程束、共享内存等方面分析
职位点评
59
综合评分
AI推理底层优化岗位，前沿技术栈、成长空间大，但WLB一般、薪资待定
更适合这类人
最适合以技术成长为核心驱动、愿意投入时间攻克底层难题、不在意加班和通勤的极客型应届生
表现最好
成长发展
相对薄弱
工作生活
薪资福利45
成长发展90
工作生活30
使命价值70
薪资福利
45较低
薪资未披露（面议），福利未提及，作为校招岗位薪资有竞争力但不确定性高，补偿性动机满足一般。
薪资信号未披露（AI估算：20K-35K/月）
成长发展
90较高
技术栈前沿（GPU优化、AI推理），成长路径明确，加分项鼓励竞赛和科研，发展性动机满足度高。
技术前沿前沿/新兴技术
技术栈GPU、推理系统、C++、Python、性能优化、计算机体系结构
业务类型profit_center
工作生活
30较低
仅现场办公，未提及弹性工时或WLB，北京上海通勤成本高，生活化动机满足度低。
工作模式仅现场办公
办公地点未明确
加班情况未提及（无法判断）
使命价值
70中等
AI推理属于高速增长赛道，对社会智能化有积极影响，但JD未明确使命导向，意义感动机中等偏上。
行业发展高速增长赛道
社会影响中性/一般
创新程度积极采用新技术
稀宇科技 的其他在招职位
相似职位推荐
Watch Jobs