IT人力外包人才简历库

返回列表

数据采集工程师

驻场外包人员
工作年限:3年 意向城市:杭州 浏览:2次 发布时间:近期

技能标签

Python Scrapy Selenium XPath 正则表达式 HTTP协议 MongoDB Redis MySQL 数据解析 反爬虫策略 数据存储 网络请求 ETL处理 分布式爬虫

专业技能

精通Python编程语言,熟悉HTML/CSS/JavaScript基础语法,掌握网络请求与响应处理,熟悉分布式爬虫框架Scrapy,具备反爬虫策略应对能力,熟练使用MongoDB、Redis、MySQL等数据库进行数据存储与管理,熟悉Selenium进行动态网页数据抓取,掌握XPath、正则表达式等数据解析技术,具备数据清洗与ETL处理能力

工作履历(脱敏处理)

主导多个平台数据采集项目,包括百度、微博、知乎等,负责爬虫架构设计、代码开发、反爬虫策略制定及数据存储优化,使用Scrapy框架提升爬取效率,通过Selenium处理动态内容,结合Redis缓存与MongoDB存储,解决验证码识别与IP代理问题,实现数据自动化采集与分析

项目经验(脱敏处理)

1. 某大型互联网平台数据采集项目:设计分布式爬虫架构,使用Scrapy框架实现百万级数据抓取,通过Selenium模拟浏览器操作突破动态渲染限制,采用Redis缓存机制提升并发效率,解决反爬虫策略中的验证码识别与IP代理问题,数据存储至MySQL与MongoDB,实现日均50万条数据采集

2. 某社交平台内容分析项目:开发基于XPath的网页结构解析模块,优化正则表达式匹配算法提升数据提取准确率,构建动态内容加载解决方案应对AJAX请求,设计数据清洗流程处理HTML标签干扰,最终实现98%的数据完整性

3. 某资讯平台数据监控系统:搭建基于Scrapy-Redis的分布式爬虫集群,实现多线程并发采集,开发反爬虫策略模块应对IP封禁,采用分布式存储方案处理PB级数据,建立数据异常监控机制保障采集稳定性,日均处理数据量达200万条

驻场外包优势

服从性高

严格遵守甲方管理制度

技术扎实

3年项目实战经验

可长期驻场

接受异地项目外派

快速响应

24小时内可到岗

企业人才对接

专业IT人力外包服务

如果贵公司有IT项目人手缺口、需要工程师驻场开发、短期人力支援需求,欢迎联系洽谈合作。

合作热线

18969108718

商务邮箱

ntit@163.com

微信扫码咨询

微信咨询二维码

扫描二维码添加商务对接

立即申请人才对接