中国平安
【AI】推理优化工程师
【AI】推理优化工程师
发布于 大约 2 个月前普通员工/个人贡献者
深圳市
高级经验
全职员工
仅现场办公
硕士
软件工程
PyTorch
TensorFlow
LLM
推理优化
vLLM
TensorRT-LLM
AI 估算 · 35k–55k
大模型推理优化工程师稀缺，平安作为金融科技巨头薪资有竞争力，硕士+3年经验市场薪资约35-55k。
职位详情
关于这个职位
该职位专注于AI模型的工程落地与性能优化，负责将研发模型转化为高效、可靠的工程化代码，并搭建推理服务框架
你将参与大模型推理优化，使用vLLM、TensorRT-LLM等框架，解决模型部署中的兼容性和性能问题
适合有3年以上AI系统架构经验、熟悉大模型工程化实践的候选人
最低要求
硕士及以上学历，3年以上AI系统架构设计与开发经验，独立主导过百万级用户量AI产品架构设计
精通机器学习、深度学习等基础原理以及工程化理论，有2年以上大模型相关工程实践经历
熟悉推理优化技术，对于PD分离、KV-Cache、张量并行有一定了解，熟悉vLLM、SGLang、TensorRT-LLM等推理框架，有推理优化项目经验者优先
精通模型部署及监控，熟练使用docker/kubernetes等容器化和集群管理技术，以及restful api设计
精通python/Java/C++至少一种编程语言
熟悉AI平台集成TensorFlow、PyTorch、PaddlePaddle、MindSpore等框架能力，有AI平台研发经验者优先
熟悉云原生、容器在AI平台中运用的能力
具备金融科技领域经验，熟悉金融科技业务场景
在顶会（NeurIPS/ICML 等）发表过 LLM 相关论文或有专利成果者优先
工作职责
将研发模型转化为工程化代码，进行模型封装
搭建或优化算法工程化基础设施，如模型部署平台、推理服务框架、性能测试工具等
负责模型部署方案设计与实施，适配不同场景，解决兼容性问题
对已上线的算法模型进行性能优化，包括提升准确率，降低计算成本，提高鲁棒性等
优先资格
有推理优化项目经验者优先
有AI平台研发经验者优先
在顶会（NeurIPS/ICML 等）发表过 LLM 相关论文或有专利成果者优先
AI 洞察
优缺点分析
优点
- 大模型推理优化是当前AI领域的热门方向，技术壁垒高，职业前景广阔
- 平安作为金融科技巨头，平台大、资源丰富，能接触海量业务场景
- 团队技术氛围浓厚，有机会与顶尖人才合作，参与前沿技术落地
- 对技术深度要求高，需要持续学习最新推理框架和优化技术
缺点 / 挑战
- 金融业务对模型稳定性、安全性要求严苛，工作压力较大
- 可能涉及跨团队协作，沟通成本较高
- 适合有扎实AI工程化背景、热爱技术挑战、希望在金融科技领域深耕的工程师
角色解读
- 技术深耕：成为推理优化专家，主导大模型部署架构设计
- 管理方向：晋升为AI工程化团队负责人，带领团队攻克技术难题
- 业务拓展：结合金融科技场景，转型为AI解决方案架构师
- 将AI模型从研究原型转化为工程化代码，进行模型封装和部署
- 搭建和优化模型部署平台、推理服务框架及性能测试工具
- 设计并实施模型部署方案，适配不同业务场景，解决兼容性问题
- 对已上线模型进行性能优化，提升准确率、降低计算成本、提高鲁棒性
- 精通机器学习、深度学习原理及工程化理论，有2年以上大模型工程实践
- 熟悉推理优化技术，如PD分离、KV-Cache、张量并行，掌握vLLM、TensorRT-LLM等框架
- 精通Docker/Kubernetes容器化和集群管理，以及RESTful API设计
- 精通Python/Java/C++至少一种编程语言，熟悉AI平台集成主流框架
申请策略
- 在简历中量化项目成果，如推理速度提升X倍、成本降低Y%
- 提前了解平安的金融科技业务方向，面试中展示对业务的理解
- 突出大模型推理优化项目经验，如使用vLLM或TensorRT-LLM进行性能提升的具体案例
- 强调系统架构设计能力，尤其是百万级用户量产品的架构经验
- 展示在容器化部署（Docker/K8s）和AI平台集成方面的成果
- 如有顶会论文或专利，务必列出
- 深入学习vLLM、SGLang、TensorRT-LLM等推理框架的内部机制
- 补充金融科技领域知识，了解业务场景对模型性能的特殊要求
面试指南
- 对于技术原理问题，先给出定义，再结合项目实例说明应用效果
- 对于架构设计问题，从需求分析、方案选型、关键组件、性能指标等方面展开
- 对于挑战类问题，采用STAR法则（情境、任务、行动、结果）结构化回答
- 请详细解释KV-Cache的原理及其在推理优化中的作用
- 你如何设计一个支持高并发的大模型推理服务架构？
- 描述一次你使用vLLM或TensorRT-LLM进行推理优化的经历，遇到了哪些挑战？
- 在金融场景下，如何平衡模型推理速度和准确性？
- 你对PD分离技术有何理解？在什么场景下适用？
匹配度报告
71
综合匹配度
平安大模型推理优化岗，前沿技术栈、高薪、成长快，但工作强度大、WLB一般。
适合人群
最适合追求技术成长和高薪的求职者，对WLB要求不高。
最强匹配
成长发展匹配
最弱匹配
工作生活匹配
薪资福利85
成长发展90
工作生活40
使命价值70
薪资福利匹配
85较高
薪资水平较高，平安作为上市巨头福利完善，但JD未明确具体薪资和福利，需面议确认。
薪资信号面议 (35K-55K/月)
成长发展匹配
90较高
大模型推理优化是前沿技术，岗位要求高，成长空间大，但JD未提及晋升通道。
技术前沿前沿/新兴技术
技术栈LLM、vLLM、TensorRT-LLM、KV-Cache、Kubernetes、PyTorch
业务类型profit_center
工作生活匹配
40较低
JD未提及远程或弹性工作，且大厂AI团队通常工作强度较大，WLB一般。
工作模式未明确
办公地点未明确
加班情况未提及（无法判断）
使命价值匹配
70中等
金融科技行业稳定增长，AI优化能提升业务效率，具有一定社会价值，但JD未强调使命感。
行业发展稳定成熟行业
社会影响中性/一般
创新程度积极采用新技术
Watch Jobs