硕士及以上学历,3年以上AI系统架构设计与开发经验,独立主导过百万级用户量AI产品架构设计
精通机器学习、深度学习等基础原理以及工程化理论,有2年以上大模型相关工程实践经历
熟悉推理优化技术,对于PD分离、KV-Cache、张量并行有一定了解,熟悉vLLM、SGLang、TensorRT-LLM等推理框架,有推理优化项目经验者优先
精通模型部署及监控,熟练使用docker/kubernetes等容器化和集群管理技术,以及restful api设计
精通python/Java/C++至少一种编程语言
熟悉AI平台集成TensorFlow、PyTorch、PaddlePaddle、MindSpore等框架能力,有AI平台研发经验者优先
熟悉云原生、容器在AI平台中运用的能力
具备金融科技领域经验,熟悉金融科技业务场景
在顶会(NeurIPS/ICML 等)发表过 LLM 相关论文或有专利成果者优先