大模型平台研发工程师-Seed

优缺点分析

角色解读

• 技术深耕：从平台研发到算法系统架构师，深入大模型底层优化
• 管理路线：可向技术Lead或团队管理方向发展，带领小组攻克难题
• 横向拓展：可转入算法团队或AI基础设施团队，拓宽在AI领域的职业宽度
• 开发并优化字节跳动的机器学习平台，支撑公司内部算法的生产与迭代
• 设计和实现机器学习基础设施、框架及工具链，并推动落地到实际业务中
• 探索前沿机器学习技术，如大模型推理优化、自动评估等，提升平台能力并降低成本
• 扎实的Python/Go编程能力，以及良好的代码管理和工程习惯
• 熟悉服务端基础技术（HDFS、Ray、消息队列等），能高效开发和维护后端服务
• 了解深度学习框架（PyTorch）和大模型推理引擎（vLLM），具备模型部署经验
• 对大语言模型、多模态大模型、Agent等有基本认知，并关注前沿技术发展

申请策略

• 在简历和面试中强调对AI技术趋势的理解，尤其是Agent和多模态方向
• 准备1-2个自己动手搭建或优化过的机器学习平台案例，说明设计思路和效果
• 突出大模型相关项目经验，特别是平台开发、推理优化或工具链建设
• 强调Python/Go编程能力，以及分布式系统、中间件（如Ray、HDFS）的使用经验
• 展示PyTorch、vLLM等框架的实践，最好有性能调优或部署案例
• 若对大模型部署不熟，可学习vLLM、TensorRT等推理加速工具
• 补充分布式系统知识，了解Ray、Kubernetes等

面试指南

• STAR法则：描述情境、任务、行动和结果，突出技术选型和量化效果
• 技术深度结合广度：先给出核心原理，再举例说明实际应用
• 以学习者心态展示：承认不足但给出改进计划，体现成长潜力
• 请介绍你参与过的机器学习平台或工具链项目，你在其中的角色和贡献
• 如何优化大模型的推理性能？你用过哪些方法或工具？
• 请解释Ray在分布式训练或推理中的作用
• 你如何设计一个自动评估系统来评估大模型性能？
• 在跨团队协作中，你是如何推动技术方案落地的？