更新于 今天

python爬虫开发工程师

1-1.2万
  • 北京海淀区
  • 1-3年
  • 大专
  • 全职
  • 招1人

职位描述

Python爬虫开发ScrapyrequestsPyppeteer
岗位职责:
1. 设计、开发和维护高性能、高可用的网络爬虫系统,用于大规模数据采集;
2. 分析目标网站结构,制定合理的抓取策略,处理反爬机制(如验证码、IP封禁、动态渲染等);
3. 对采集的数据进行清洗、去重、结构化处理,并确保数据质量与完整性;
4. 监控爬虫系统的运行状态,及时处理异常、优化性能与稳定性;
5. 负责京东/天猫/拼多多/抖音/快手等数据BI可视化工作,支持业务对数据的需求;
6. 与数据团队协作紧密协作,实现数据产品快速迭代。
岗位要求:
1. 熟练掌握 Python,熟悉常用爬虫框架(如 Scrapy、Requests、Selenium、Puppeteer、BeautifulSoup等);
2. 熟悉常见反爬机制及应对策略(如账号/IP封禁、验证码、js混淆加密、数据混淆等);
3. 熟悉 HTTP/HTTPS 协议、TCP/IP 网络基础,了解常见 Web 技术(HTML/CSS/JavaScript、AJAX、WebSocket 等);
4. 掌握数据库操作(MySQL、Doris 等),具备数据存储与处理能力;
5. 具有良好的学习能力、分析和解决问题的能力和强烈的进取心;
6. 具备良好的沟通能力和团队合作精神。

工作地点

北京海淀区中关村软件园

职位发布者

董女士/招聘

刚刚活跃
立即沟通
公司Logo瞬联软件科技(北京)有限公司
成立于2000年,瞬联为欧立腾集团(ALTEN Group)成员,提供专业的技术咨询、软件研发及行业级整体技术解决方案。瞬联在电信、嵌入式、IoT、汽车、移动互联网及企业软件方案等领域拥有超过20年的深厚研发经验。瞬联通过其优质的交付能力、灵活的合作模式和客户导向的理念赢得了许多世界500强企业客户,公司在大中华地区、美国、加拿大、欧洲的主要城市设有办公室和研发中心。近年来,瞬联16次被国际外包专业协会(IAOP)评为全球外包行业100强公司,同时也屡次得到Gartner、IDC和中国外包网等国内外机构的奖项和荣誉。瞬联拥有ISO27001,ISO9001,ISO14001和ISO45001认证以及CMMI3证书(含敏捷开发流程)。欧立腾集团作为欧洲技术咨询服务领导者,目前已在全球30个国家拥有近57,400名员工。欧立腾提供汽车,航空,信息技术,网络与通讯,半导体,金融服务,零售,医疗保健&生命科学及能源等领域技术工程咨询服务及解决方案。
公司主页