Visionox logo
维信诺
大数据开发工程师

大数据开发工程师

发布于 大约 14 小时前

普通员工/个人贡献者

中国
高级经验
全职员工
仅现场办公
本科
软件工程
Datax
Etl
Kudu
Seatunnel
帆软报表
数据仓库
数据建模
Dris

AI 估算 · 20k–35k

5年以上大数据开发经验,精通主流大数据技术栈,市场需求旺盛,薪资处于行业中上水平。

职位详情

关于这个职位

作为大数据开发工程师,你将负责企业级大数据湖仓一体平台的架构设计与核心开发,构建高可用的数据采集、存储和计算体系,支持海量数据的实时与离线处理

你将参与技术选型、平台优化、数据治理以及报表开发,与产品、数据治理和分析师等团队协作,推动数据在业务场景中的价值转化
该职位要求5年以上大数据开发经验,精通Hadoop、Spark、Flink等主流技术栈

最低要求

计算机科学、信息技术或相关专业本科及以上学历,5年以上大数据开发经验

精通SQL开发与调优,熟悉大数据领域相关的技术,包含但不限于hadoop、hive、spark、flink、datax、seatunnel等,精通oracle、greenplum、kudu、dris等存储引擎工具
精通一种或多种编程语言(如:java、scala、python),具备良好的代码规范和开发习惯
熟悉数据仓库设计,有丰富的数据建模和ETL开发经验
对大数据能力输出、报表展示工具有落地经验
具备优秀的项目管理能力,能够跨部门沟通和协作,熟悉业务领域数据需求,可对接生产、供应链等领域,具备数据合规与价值挖掘能力

工作职责

参与集团统一的湖仓一体架构的设计和技术选型,平台的构建和优化维护,确保湖仓一体架构的高性能,可扩展性和稳定性

负责湖仓一体平台的开发与维护,包括但不限于数据采集清洗,存储、处理、调度等全流程
负责集团数据应用平台、数据统一出口平台的开发与维护,包括但不限公共数据集开发、帆软报表页面开发、数据接口开发与维护等
编写高质量的数据处理代码,实现海量数据的实时处理和离线分析
负责集团级数据治理体系制定并执行数据标准、指标、质量、安全的管理策略与流程,治理平台的导入及运维管理
与产品、数据治理工程师、数据分析师等团队协作,推动数据在业务中的应用和价值转化
研究和引入新进的大数据技术和工具,不断提升团队的技术能力

AI 洞察

优缺点分析

优点

  • 接触企业级大数据全链路技术栈,涵盖湖仓一体、实时计算、数据治理等热门方向,技术成长快
  • 集团级项目经验含金量高,有助于提升架构设计与大规模数据处理能力
  • 跨团队协作机会多,能深入理解制造、供应链等业务场景,拓宽行业认知
  • 对技术广度与深度要求高,需同时掌握多项大数据工具并持续学习
  • 数据治理与业务对接工作可能涉及复杂需求沟通,需要较强的协调能力
  • 制造业数字化转型过程中,数据基础可能参差不齐,需要应对历史数据质量问题
  • 适合拥有大数据开发经验、对技术架构感兴趣、愿意深入业务价值挖掘的工程师

缺点 / 挑战

暂无明显挑战项

角色解读

  • 可向大数据架构师方向发展,专注平台设计与技术前沿探索
  • 也可转向数据产品管理或数据科学方向,结合业务深入数据应用
  • 在集团数字化部门积累经验后,有机会晋升为技术负责人或团队Leader
  • 设计并构建企业级湖仓一体大数据平台,负责技术选型与架构优化
  • 开发数据采集、清洗、存储、处理、调度等全流程ETL任务
  • 构建数据应用平台,开发帆软报表和数据接口,支撑业务决策
  • 制定数据治理规范,管理数据标准、质量、安全,推动数据价值实现
  • 精通SQL及Hadoop、Spark、Flink等大数据技术栈,熟悉Oracle、Greenplum、Kudu等存储引擎
  • 熟练掌握Java、Scala或Python编程语言,具备扎实的开发功底
  • 深入理解数据仓库设计,有丰富的数据建模和ETL开发经验
  • 具备项目管理与跨部门沟通能力,能对接生产、供应链等业务领域数据需求

申请策略

  • 面试时可准备一个完整的大数据平台项目案例,从技术选型到落地效果
  • 关注维信诺的数字化转型战略,思考大数据如何辅助智能制造决策
  • 突出大数据平台架构设计或核心开发经历,尤其是湖仓一体、实时计算相关项目
  • 详细描述SQL优化、ETL开发、数据建模等具体工作成果
  • 列举掌握的技术栈(Hadoop、Spark、Flink等)及编程语言(Java/Scala/Python)
  • 如果有数据治理或报表工具(如帆软)经验,务必重点强调
  • 若对数据治理体系不熟悉,可提前学习数据标准、质量、安全等知识
  • 复习Spark Streaming/Flink等实时计算原理,准备相关实践案例

面试指南

  • 对于架构设计问题,先明确需求(数据量、实时性、一致性),再对比主流方案(如Delta Lake、Iceberg)优缺点,最后给出推荐
  • 对于性能优化问题,从数据倾斜、资源分配、代码优化、存储格式等维度分点回答,并给出实际效果
  • 对于数据治理问题,强调制定标准、监控质量、推动闭环的流程,并举例说明
  • 请设计一个湖仓一体架构,并说明选型理由
  • 如何优化一个Spark作业的性能?
  • 描述一次你在数据治理中遇到的挑战及解决方案
  • 你如何理解数据仓库建模?请举一个星型模型或雪花模型的例子
  • 如何保证实时数据处理的准确性和一致性?

职位点评

64
综合评分

大数据深厚技术栈、高成长空间,但薪资福利未明示,WLB不确定。

从薪资福利、成长空间、工作节奏和岗位方向综合评估,方便横向比较。

更适合这类人
适合以技术成长为首要目标、愿意投入学习前沿大数据技术、不太在意WLB的求职者。
表现最好
成长发展
相对薄弱
工作生活
薪资福利65
成长发展85
工作生活40
使命价值55

薪资福利

65中等

JD未提及具体薪资与福利,但基于5年经验及技术栈,薪资竞争力较强。未明确列出福利,补偿性动机满足程度中等。

薪资信号未披露(AI估算:20K-35K/月)

成长发展

85较高

职位涉及湖仓一体、实时计算等前沿技术,且要求研究引入新技术,技术成长空间大。但JD未提及晋升通道或培训机制,发展性动机得分较高但非满分。

技术前沿前沿/新兴技术
技术栈Hadoop、Hive、Spark、Flink、DataX、SeaTunnel、Oracle、Greenplum、Kudu、Dris、Java、Scala、Python、数据仓库、ETL、数据建模、帆软报表、湖仓一体、实时处理、离线分析
业务类型profit_center

工作生活

40较低

JD未提及工作模式与加班情况,推测为现场办公,且制造业可能涉及生产支持,WLB存在不确定性。

工作模式未明确
办公地点未明确
加班情况未提及(无法判断)

使命价值

55较低

制造业数字化转型具有一定社会价值,但职位描述偏重技术实现,未强调使命或社会影响,意义感动机中等。

行业发展稳定成熟行业
社会影响中性/一般
创新程度积极采用新技术
Watch Jobs