大模型应用研发工程师-小荷健康

优缺点分析

角色解读

• 向大模型应用架构师方向发展，成为AI+医疗领域的专家
• 可横向拓展至AI平台或AI Infra团队，深入底层优化
• 随着字节跳动健康业务扩张，有望晋升为技术Leader或团队管理岗
• 负责小荷健康业务的后端系统与平台架构设计，将大模型能力融入医疗健康场景
• 与产品经理和前段工程师协作，拆解需求并基于AI Native思想开发功能
• 持续优化大模型工程性能、服务稳定性，提升系统架构和研发效率
• 熟练掌握Golang/Java/Python等至少一门编程语言，具备扎实的计算机基础
• 深入理解后端技术栈，包括缓存、消息队列、负载均衡、分布式存储与事务
• 有大模型工程经验优先，如Agent、RAG、PE、模型安全等
• 熟悉高并发、大数据量系统，了解微服务、Docker、K8s

申请策略

• 关注字节跳动技术博客，了解其技术栈和最佳实践
• 在面试前准备一个完整的AI应用Demo，展示从模型到服务部署的全链路能力
• 突出大模型相关项目经验，如Agent、RAG、模型微调或部署
• 展示后端高并发、分布式系统的设计实践，最好有数据表明性能提升
• 强调编程语言精通程度和代码质量，可附GitHub链接
• 系统学习LangChain、LlamaIndex等大模型应用框架
• 了解医疗领域知识（如电子病历、医学智能问答）会加分

面试指南

• 对于系统设计题，先明确需求，再拆解组件，考虑扩展性和容错，最后评估瓶颈
• 对于优化题，从算法（如模型量化）、工程（如异步、缓存、K8s自动扩缩容）等多维度回答
• 请设计一个基于RAG的医疗问答系统架构
• 如何优化大模型推理服务的延迟和吞吐量？
• 在高并发场景下，如何保证分布式系统的一致性和可用性？
• 你过去参与的大模型项目中有哪些挑战？如何解决的？
• 复习经典系统设计题（如设计排行榜、秒杀系统），结合分布式理论
• 准备2-3个有深度的大模型项目案例，用STAR法则描述