字节跳动
端侧AI Infra资深架构师-视频与边缘
端侧AI Infra资深架构师-视频与边缘
发布于 大约 17 小时前普通员工/个人贡献者
上海市
高级经验
全职员工
仅现场办公
本科
GPU
SQL
ARM
NoSQL
模型压缩
模型量化
NPU
x86
TensorFlow Lite
ONNX Runtime
AI 估算 · 40k–70k
资深架构师岗位，技术难度高，字节薪资竞争力强，参考市场水平估算
职位详情
关于这个职位
加入字节跳动，你将负责端侧AI基础设施的架构设计与优化，涵盖GPU/NPU资源调度、AI框架开发、模型量化压缩等核心任务
与算法和产品团队紧密协作，推动AI在视频和边缘场景的高效落地，适合对端侧AI技术有热情、追求前沿挑战的资深工程师
最低要求
获得本科及以上学历，计算机科学、电子工程、人工智能等相关专业优先
精通C++、Python等编程语言，具备良好的代码编写习惯与调试能力
熟悉TensorFlow Lite、PyTorch Mobile、ONNX Runtime等至少一种端侧AI框架，有实际开发与优化经验
了解ARM、X86等常见端侧硬件架构，熟悉GPU、NPU等AI加速芯片的原理与使用
具备数据处理、存储相关知识与经验，熟悉SQL、NoSQL数据库
有较强的问题解决能力，对新技术保持学习热情，能够快速掌握端侧AI领域的前沿技术
具备良好的团队协作精神，能够与跨职能团队有效沟通与合作
工作职责
负责规划、调配GPU、NPU等端侧AI专用计算资源，针对手机、智能穿戴设备、智能家居终端等不同类型设备，优化AI模型推理任务的计算效率
主导开发适用于端侧设备的AI框架，涵盖模型加载、推理执行等核心模块，同时，开发配套工具，如模型量化、压缩工具，降低模型存储与计算成本
负责端侧AI系统性能调优与问题解决，持续监控端侧AI系统运行状态，运用性能分析工具，定位并解决性能瓶颈
与算法团队紧密合作，将最新算法成果高效集成到端侧AI系统中，同时，为产品团队提供技术支持，助力AI功能的产品化落地
AI 洞察
优缺点分析
- 参与核心技术栈，端侧AI是前沿方向，技能积累极具价值
- 字节跳动平台大，资源丰富，项目影响力广
- 薪资待遇优厚，股票期权等福利完善
- 与顶尖算法和工程团队合作，学习成长速度快
- 技术复杂度高，需要同时掌握软件框架和硬件架构
- 业务迭代快，工作强度较大，可能需要应对紧急问题
- 行业竞争激烈，需持续跟进最新技术动态
- 适合技术功底扎实、对端侧AI充满热情、愿意在快速迭代环境中挑战自我的资深工程师
角色解读
- 可晋升为端侧AI技术专家或首席架构师，深耕模型优化与芯片协同
- 横向扩展至AI平台或边缘计算整体架构设计
- 有机会带领团队，转型为技术管理岗
- 规划并调配GPU、NPU等端侧AI计算资源，针对不同设备优化模型推理效率
- 主导开发端侧AI框架，包括模型加载、推理执行、量化压缩等工具链
- 负责端侧AI系统的性能监控与调优，定位并解决性能瓶颈
- 与算法团队合作集成最新算法，并支持产品团队实现AI功能落地
- 精通C++和Python，具备扎实的编程与调试能力
- 熟悉TensorFlow Lite、PyTorch Mobile、ONNX Runtime等至少一种端侧AI框架
- 了解ARM/X86硬件架构，掌握GPU、NPU等AI加速芯片原理
- 具备数据处理与存储经验，熟悉SQL/NoSQL数据库
申请策略
- 提前了解字节端侧AI相关产品（如抖音、剪映），思考如何优化
- 展示对边缘计算和AI结合的兴趣，可准备相关趋势见解
- 突出端侧AI框架的实际优化经验，如模型量化、推理加速等具体项目
- 强调C++/Python编程能力，尤其是性能调优和系统级开发经历
- 展示对GPU/NPU等硬件架构的理解，以及相关性能分析工具的使用
- 如果有算法集成或产品化经验，务必提及
- 深入学习TensorFlow Lite/PyTorch Mobile的内部机制和优化技巧
- 熟悉开源的模型压缩工具（如TensorRT、NCNN）并动手实验
面试指南
- 对于优化类问题：先分析瓶颈（计算/内存/带宽），然后针对性地选择量化、剪枝、算子融合等技术，最后验证效果
- 对于框架比较问题：从模型格式、算子支持、部署工具链、社区生态等维度对比，并分享实际项目中的取舍
- 对于协作类问题：强调明确接口、迭代验证、文档同步，并举例说明如何平衡算法效果与工程效率
- 如何优化一个深度学习模型在移动端的推理速度？请举例说明
- 请比较TensorFlow Lite和PyTorch Mobile的优缺点，并谈谈你的使用经验
- 当模型在端侧运行时出现性能瓶颈，你会如何定位和解决？
- 解释模型量化和剪枝的原理，以及它们如何影响模型精度和速度
- 你如何与算法团队协作，将一个新型算法高效集成到端侧系统中？
匹配度报告
69
综合匹配度
字节跳动端侧AI架构师，薪资优厚、技术前沿，但工作强度较大、弹性办公有限。
适合人群
适合追求高薪和前沿技术、能接受较高工作强度的求职者。
最强匹配
薪资福利匹配
最弱匹配
工作生活匹配
薪资福利85
成长发展80
工作生活40
使命价值70
薪资福利匹配
85较高
字节跳动作为一线互联网大厂，薪资水平属于行业偏高，且提供股票等长期激励，补偿性动机满足度高。
薪资信号偏高 (40K-70K/月)
成长发展匹配
80较高
端侧AI是前沿技术方向，涉及模型优化、硬件协同等复杂技能，成长空间大，但JD未明确提及晋升通道。
技术前沿前沿/新兴技术
技术栈C++、Python、TensorFlow Lite、PyTorch Mobile、ONNX Runtime、GPU、NPU、端侧AI、模型量化、模型压缩
业务类型ambiguous
工作生活匹配
40较低
JD未提及弹性办公或WLB，字节跳动加班文化较为普遍，且岗位要求监控系统状态，可能面临时效压力。
工作模式仅现场办公
办公地点市区核心地段
加班情况未提及（无法判断）
使命价值匹配
70中等
端侧AI属于高速增长赛道，技术本身对社会有积极影响（如智能设备赋能），但JD未体现明确使命导向。
行业发展高速增长赛道
社会影响中性/一般
创新程度积极采用新技术
Watch Jobs