更新于 今天

大数据架构师

2-3万
  • 青岛崂山区
  • 5-10年
  • 本科
  • 全职
  • 招1人

职位描述

数据治理大数据开发FlinkHiveClickHouse云计算/大数据
岗位职责:
1. 负责公司大数据平台(离线/实时)的架构设计及开发,服务器集群的搭建和部署,支撑数据和算法在境内外业务的应用;
2. 负责⼤数据平台的开发、组件调优和运维部署,搭建包括数据⾤集、数据集成、任务调度、元数据管理、数据⾎缘、DQC等系统,以确保数据处理的高效性和准确性;
3.负责搭建高性能、⾼可用的数据管道,支撑用户行为埋点、实时分析及离线数据处理需求;参与大数据架构的规划与实施,推动数据平台的技术创新和性能提升;
4.优化数据存储方案(如MySQL分库分表、Redis集群、JuiceFS分布式存储),提升平台数据读写效率;
5. 设计并实现对多源数据的实时与离线采集、清洗、转换与存储,确保数据的完整性与准确性;
6. 基于业务需求,搭建数据仓库/数据湖,对海量数据进行ETL和建模,为后续分析和可视化提供支持;
7. 参与大数据生态系统(Hadoop/Spark/Flink等)的选型与落地,优化数据作业的性能和资源利用率;
8.与团队紧密合作,解决复杂的数据处理和分析问题,提供技术解决方案。
任职要求:
1. 全日 本科及以上学历(硬性条件),计算机相关专业,5年以上大数据相关工作经验,有完整的分布式数据存储计算平台项目实施经验;会使用Doris者优先考虑
2. 熟悉Hadoop生态圈和数据库相关技术,有Hive/Iceberg/Spark/Flink/HBase/Elasticsearch/Clickhouse等经验者优先;
3. 熟悉Linux开发环境,能使用Python/Java/Scala/Go一种或多种编程语言进行工程实现;
4. 具备良好的数据库设计和优化能力,熟悉SQL及NoSQL数据库;
5. 有数据模型设计及ETL流程设计经验,对数据仓库/数据湖的架构和实现有一定认知,并能结合业务需求优化数据管道;
6. 熟悉主流容器化与微服务生态,如Docker、Kubernetes、API网关等,能够在分布式环境下进行部署与调度;
7. 对高并发、高可用数据系统有一定的设计、开发或运维经验,有真实上线场景者优先;
8. 责任心强,热爱技术拥抱开源,有良好的协作能力和逻辑思维,善于分析和闭环解决问题。

工作地点

崂山区青岛镭测创芯科技有限公司

职位发布者

杜先生/软件研发经理

昨日活跃
立即沟通
公司Logo青岛镭测创芯科技有限公司
青岛镭测创芯科技有限公司成立于 2018年 3月,由中国海洋大学、中科院安光所专家团队共同发起,以环境立体监测激光雷达为突破口,聚焦智慧风电、环境气象立体监测、航空安全与效率提升、海洋国防核心需求,专注于环境气象、大气及海洋探测激光雷达的研发、制造和技术服务。公司自主开发激光雷达信号采集与处理的 IP核、光电混合微电子芯片及核心元器件、MOPA单频光纤激光器技术、核心反演算法,大幅度提高激光雷达信号处理能力与系统集成度,提供环境气象立体监测、智慧风电、航空安全与效率提升的新一代激光雷达系统解决方案,致力于成为国际一流的激光雷达技术研发及产业化平台。青岛镭测创芯科技有限公司现有研发及生产、测试基地 4000余平米,研发团队 50%人员具有硕士以上学历,打造了一支专业化及高水平的研发、生产和售后保障团队。
公司主页