中科曙光
【2027】大模型推理引擎研发工程师-成都(J14456)
【2027】大模型推理引擎研发工程师-成都(J14456)
发布于 7 小时前普通员工/个人贡献者
全职员工仅现场办公人工智能
人工智能
Ai芯片
Cuda
Vllm
大模型
并行计算
性能优化
推理引擎
值不值得投
75综合评分
综合评分 75
前沿AI推理技术、国产芯片机遇、技术成长空间大，但补偿性激励待明确。
从起薪待遇、成长路径、工作节奏和岗位方向综合评估，方便比较职业起点。
薪资怎么样
2万
比人工智能中位数低
发布情况
新岗位 · 今天发布
公司情况
这家公司招聘很活跃
约 540 个在招 · 其中人工智能 42 个
市场机会
选择适中
成都 · 人工智能 · 37 个在招
职位详情
关于这个职位
作为校招研发工程师，你将负责研发并优化面向语言大模型及多模态的推理引擎与PD分离调度系统，并支持新一代自研AI芯片的推理引擎开发优化，以打造极致的推理性能
这是一个深入AI推理底层、参与国产算力核心技术构建的职位
最低要求
熟练掌握C/C++、Python编程语言，具备良好的coding 和调试能力;
熟悉GPU/AI芯片编程，如CUDA, OpenCL,Ascend 等，熟悉cutlass等加速库是加分项;
熟悉主流大模型推理框架，如vllm，sglang,tensorrt-llm，FasterFransformer等;
熟悉各类深度学习网络和算子底层实现细节，训练和推理模型调试、调优有实操经验优先;
熟悉并行策略，如模型并行、流水线并行等，了解 NVLINK、GPU通信者优先;
具备GPU、AI芯片体系结构知识，熟悉芯片特性，具备 系统性能分析和调优经验优先;
加分项:
参与vllm、sglang等开源项目贡献者
熟悉推理服务框架，具备服务部署经验者优先，有超大模型分布式部署经验优先
熟悉deepep、RCCL等分布式通信库
工作职责
研发及优化语言大模型及多模态等推理引擎、PD分离推理调度系统
支持新一代自研AI芯片推理引擎开发优化，优化大模型推理性能，打造极致性能优势
AI 洞察
优缺点分析
优点
- 直接参与国产AI芯片与大模型推理引擎这一前沿领域的核心研发，技术深度高
- 有机会接触从芯片架构到上层应用的全栈优化，能建立深厚的技术壁垒
- 中科曙光在算力和芯片领域有深厚积累，能提供强大的资源和平台支持
- 技术门槛极高，需要快速掌握复杂的芯片架构、并行计算和分布式系统知识
- 性能优化工作往往需要反复实验与调试，对耐心和问题定位能力要求高
- 自研芯片的生态和工具链可能不如主流平台完善，需要解决更多未知问题
- 适合对计算机底层系统、芯片架构和并行计算有浓厚兴趣，乐于攻克技术难关，追求极致性能的应届毕业生
缺点 / 挑战
暂无明显挑战项
角色解读
- 技术专家路径：深耕AI推理优化领域，成为性能优化或芯片适配方面的专家
- 系统架构师路径：从单点优化走向整体系统设计，负责AI推理平台的架构
- 技术管理路径：带领团队进行前沿技术探索与产品落地
- 负责大模型（语言模型、多模态模型）推理引擎的研发与性能优化，提升推理速度和效率
- 针对中科曙光自研的AI芯片，进行推理引擎的适配与深度优化，确保芯片性能最大化
- 构建和优化PD分离推理调度系统，实现计算资源的高效管理和任务调度
- 精通C/C++和Python编程，具备优秀的工程实现与调试能力
- 熟悉GPU/国产AI芯片的编程模型（如CUDA、Ascend C等）和体系结构，有算子开发或性能调优经验
- 深入理解主流大模型架构（Transformer等）和至少一个开源推理框架（如vLLM）的内部原理
申请策略
- 在简历和面试中，主动表现出对底层技术探索的热情和自驱力，例如提及自己阅读过的相关论文或源码
- 关注中科曙光在AI芯片和算力基础设施方面的最新动态，以便在面试中展现对公司的了解和兴趣
- 重点突出C/C++项目经历，特别是涉及内存管理、多线程、性能优化的项目
- 如有CUDA/OpenCL编程、并行计算或高性能计算相关的课程设计、竞赛或项目经验，务必详细描述
- 展示对深度学习框架（如PyTorch、TensorFlow）原理的了解，或对vLLM等开源推理框架的阅读/使用经历
- 突出数学功底（线性代数、最优化）和解决问题的能力
- 系统性学习CUDA编程和GPU体系结构知识，完成一些简单的算子优化实践
- 深入阅读vLLM或SGLang等开源推理框架的源码，理解其调度、内存管理和通信机制
面试指南
- 对于原理性问题（如并行策略），采用“定义-原理-优缺点-案例”的结构清晰阐述
- 对于实践性问题（如性能优化），采用“问题定义-瓶颈分析-优化方案-效果评估”的逻辑链
- 对于开放性问题（如芯片适配），展现系统性思维，从“功能适配-性能调优-生态集成”等层面展开
- 请描述一下你对大模型推理过程的理解，以及可以从哪些方面进行性能优化？
- 如何利用CUDA对一个矩阵乘法算子进行优化？请谈谈你的思路
- 解释一下什么是模型并行和流水线并行，它们各自的优缺点和适用场景是什么？
- 你使用过或了解vLLM吗？它采用了哪些关键技术来提升推理效率？
- 如果让你针对一款新的AI芯片适配一个大模型推理框架，你的步骤和主要挑战会是什么？
职位点评
薪资福利70
成长发展85
工作生活65
使命价值78
薪资福利
70中等
JD未明确薪资与福利，补偿性动机的满足程度取决于实际薪酬方案。考虑到岗位的技术难度和城市，可能具有市场竞争力，但信息不足。
薪资信号未披露（AI估算：1.5千–2.5万/月）
成长发展
85较高
该职位涉及大模型推理、AI芯片优化等前沿技术，技能要求高且明确，能提供深厚的技术积累和清晰的成长路径，发展性动机满足度高。
技术前沿前沿/新兴技术
技术栈vLLM、SGLang、TensorRT-LLM、CUDA、AI芯片
业务类型ambiguous
工作生活
65中等
工作地点为成都，生活成本相对一线城市较低。但作为研发岗且未提及办公模式，可能需现场工作，WLB情况未知。
工作模式未明确
办公地点科技园/产业园
加班情况未提及（无法判断）
使命价值
78中等
岗位参与国产AI芯片与大模型核心能力建设，具有明确的技术价值和一定的产业战略意义，但具体的社会影响力描述在JD中未突出。
行业发展高速增长赛道
社会影响中性/一般
创新程度积极采用新技术
Watch Jobs