该职位已失效,看看其他机会吧

大数据工程师

5000-10000元
  • 太原小店区
  • 3-5年
  • 本科
  • 全职
  • 招1人

职位描述

数仓开发ETL开发
岗位职责:
1.数据仓库建设:拥有丰富的数据仓库建设经验,包括数据建模、ETL开发和设计等。
2.核心业务设计与开发:负责大数据项目的核心业务设计和开发,确保系统的可用性和高性能。
3.技术预研:参与大数据相关技术发展方向的预研,助力业务成长,推动技术创新。
4.数据采集与同步:利用Dinky开发的FlinkSQL代码消费Kafka中的用户日志数据,并将其写入Doris、Paimon、Hudi和Iceberg的ODS层。使用DolphinScheduler配置SeaTunnel任务,同步MySQL中的业务数据到Doris的ODS层。
5.数据仓库架构设计:遵循ODS(操作数据存储)-> DWD(数据仓库明细层)/ DIM(维度数据层)-> DWS(数据服务层)-> ADS(应用数据存储)的四级数据分层架构,确保数据在Doris、Paimon、Hudi和Iceberg中的有效流转。
6.数据可视化:利用大屏可视化工具和报表工具制作和展示ADS层和DWS层的数据报表和数据大屏,直观呈现数据洞察。
任职要求:
1.学历要求:本科及以上学历,计算机、软件、数学等相关专业背景,具备3年以上大数据开发工作经验。
2.编程技能:熟悉Java,掌握Linux系统和命令、Shell编程,具备较强的独立开发能力,良好的代码风格。
3.大数据技术经验:具有基于PostgreSQL、Doris、Paimon、Hudi、Iceberg、Hadoop、HBase、Kafka等大数据技术的开发、设计和调优经验,深刻理解大数据基础架构和平台。
4.流处理技术:熟悉Spark和Flink,深入了解Flink或Spark的原理及底层技术。
5.ETL与数据建模:熟悉数据仓库ETL开发和数据建模,具备大型数据仓库架构设计、模型设计和性能调优等相关经验。
查看全部

工作地点

太原小店区创新街智创城b座

职位发布者

张女士/人力资源主管

刚刚活跃
立即沟通
公司Logo山西智杰软件工程有限公司
山西智杰软件工程有限公司(以下简称智杰软件)成立于2007年,是专业从事智慧医疗与大健康产业信息化研发、健康医疗大数据挖掘与分析、互联网+医疗健康服务的高新技术企业。2019年获得国资1.67亿投资。总部位于综改区太原学府园区,具体办公地址为太原市小店区创新街智创城省级双创中心B座16、17层,场地占地面积为3080平方米,下设8个子公司,在太原、济南、长沙、成都、武汉设有研发中心,现有员工500余人。公司被列为2025年“山西省重点上市后备企业”之一,获评国家高新技术企业、山西省优秀企业、省级企业技术中心、山西省县域健康大数据工程研究中心、山西省博士后创新实践基地、山西省专精特新“小巨人”企业、山西民营准独角兽企业、山西省科学技术奖·企业技术创新奖等;拥有自主知识产权300余项,通过了国际软件成熟度CMMI5级、CPMM软件项目管理能力壹级、ITSS信息运维服务资质、SAAS云计算服务能力认证、ISO27001信息安全管理体系等30余项国家级认证;先后多次承担国家、省、市科研项目,多项研发成果获得国家级奖励。公司管理体系完善: 1.人才培养体系师徒带教模式 2.全流程业务培训 3.双通道职业晋升完善的薪资福利体系 1.提供同行业具有竞争性的薪资待遇; 2.享受双休,法定节假日; 3.享受社会保险、商业意外险福利; 4.为员工提供外出培训学习机会; 5.提供开放的发展平台和畅通的晋升通道; 6.工作时间:8:30-12:00,14:00-18:00。
公司主页