职位描述
数据测试PythonJavaDATAWORKSMAXCOMPUTEE-MAPREDUCE
1. 负责大数据平台及相关数据产品(数据仓库、数据服务、经分报表等)的全流程质量保障,制定测试策略、测试计划和测试方案。
2. 对大数据平台的各项功能进行测试,包括数据采集、数据存储、数据处理、数据查询、数据服务、任务调度、权限管理等模块。
3. 设计和执行数据质量校验规则,验证数据的准确性、完整性、一致性、及时性和唯一性。
4. 准确定位并记录缺陷,排查及复现问题,推动数据链路问题闭环。
5. 使用或引入大数据测试工具和技术,编写测试脚本,提升测试效率。
2. 对大数据平台的各项功能进行测试,包括数据采集、数据存储、数据处理、数据查询、数据服务、任务调度、权限管理等模块。
3. 设计和执行数据质量校验规则,验证数据的准确性、完整性、一致性、及时性和唯一性。
4. 准确定位并记录缺陷,排查及复现问题,推动数据链路问题闭环。
5. 使用或引入大数据测试工具和技术,编写测试脚本,提升测试效率。
1 年以上数据开发或数据测试相关经验,SQL 能力强**:能熟练编写复杂 SQL 进行数据比对和验证,包括:多表 JOIN、窗口函数、子查询、聚合分析,数据比对、差异分析、数据稽核;
2、了解大数据分层理论**:理解 ODS → DWD → DWS → ADS 各层职责和数据流转关系;
3、了解至少一种大数据组件**:如 Hive、Spark、Flink、ClickHouse 等,知道怎么用、怎么查数据;
4、对数据敏感**:有数据质量意识,能识别常见的数据质量问题(数据缺失、重复、不一致等)。
加分项(不要求全会,有的更好)
1、用过 DataWorks 或其他大数据开发平台
2、了解 Hadoop 生态更多组件(YARN、Kafka、HBase 等)
3、能写 Python/Java 脚本做简单自动化
4、接触过数据治理、数据质量评估方法论
5、有云上大数据产品(阿里云 MaxCompute、E-MapReduce 等)使用经验
2、了解大数据分层理论**:理解 ODS → DWD → DWS → ADS 各层职责和数据流转关系;
3、了解至少一种大数据组件**:如 Hive、Spark、Flink、ClickHouse 等,知道怎么用、怎么查数据;
4、对数据敏感**:有数据质量意识,能识别常见的数据质量问题(数据缺失、重复、不一致等)。
加分项(不要求全会,有的更好)
1、用过 DataWorks 或其他大数据开发平台
2、了解 Hadoop 生态更多组件(YARN、Kafka、HBase 等)
3、能写 Python/Java 脚本做简单自动化
4、接触过数据治理、数据质量评估方法论
5、有云上大数据产品(阿里云 MaxCompute、E-MapReduce 等)使用经验
工作地点
杭州拱墅区中华保险大厦

公司信息
公司介绍
上海有大信息科技有限公司创立于2005年,我们为客户提供基于互联网技术IT系统构建、IT外协 服务、项目运营等;有大公司拥有超过200名技术开发人员,为海通证券、上海信托、国 泰君安、湘财证券、东航金融、中泰证券、国金证券、陆家嘴信托、 固金所、银联数据、上海清算所、等多家大型金融行业客户提供专业 服务。有大公司总部建于上海,在北京、宁波设有分公司,并与武汉软件工程学院开展合作,设立有武汉实训中心。
工商信息
企业名称 上海有大信息科技有限公司
企业类型 有限责任公司(自然人投资或控股)
法人代表 胡宇
经营状态 存续
成立时间 2005-03-31
注册资本 1亿元
认证资质
营业执照信息

更新于 今天





