该职位已失效,看看其他机会吧

爬虫工程师

9000-11000元
  • 上海浦东新区
  • 1-3年
  • 本科
  • 全职
  • 招1人

职位描述

ScrapyMySQLREADISKAKFKA
职位描述:
1、负责设计和开发分布式的网络爬电应用,包括调度、抓取、入库等内容,进行互联网相关信息的抓取和分析2、负责实现大规模数据的抓取、抽取,去重、分类,垃圾过滤,质量识别、解析入库等工作3、负责对指定的多个网站进行网页抓取、数据提取、破解反爬策略
4、承接开发任务,需求分析,确保按时按质按量完成任务
5、有良好的沟通和学习能力.有较强的团队协作能力以及快速解决问题的能力。
任职要求:
1、本科及以上统招学历、计算机或相关专业、具备2年以上项目开发经验;
具有scrapy scrapy-redis开发经验;
具有web逆向经验,如滑块验证码,
熟悉多线程、网络编程,精通网页抓取原理及技术,精通正则表达式;
熟悉并熟练应用各种常见加密算法;熟悉至少一种关系型数据库(MVSOL等);熟悉redis、kakfka,有过数据库调优和海量数据存储经验优先具有工商数据、金融数据、案件数据抓取经验者优先。
双休 早9晚6
查看全部

工作地点

上海浦东新区中国人寿金融中心

职位发布者

孙女士/HR

三日内活跃
立即沟通
公司Logo猿圈圈智能技术(南京)有限公司
猿圈圈成立于2018年,是一家专业于数字安全证书、公有云供应的服务商,提供多种国际国内最受信赖的SSL品牌证书,以及国内外公有云架构及服务,为客户提供专业的技术支持,通过云架构、领先的加密,身份和网站安全解决方案来保护客户的业务可持续发展。
公司主页