爬虫开发知识入门基础（2）

1、爬虫解析 对于解析来说，对于 HTML 类型的页面来说，常用的解析方法其实无非那么几种，正则、XPath、CSS Selector，另外对于某些接口，常见的可能就是 JSON、XML 类型，使用对应的库进行处理即可。 这些规则和解析方法其实写起来是很繁琐的，如果我们要爬上万个网站，如果每个网站都去写对应的规则，那么不就太累了吗？所以智能解析便是一个需求。 智能解析意思就是说，如果能提供一个页面，算法可以自动来提取页面的标题、正文、日期等内容，同时把无用的信息给刨除，例如上图，这是 Safari 中自带的阅读模式自动解析的结果。 对于智能解析，下面分为四个方法进行了划分： • readability 算法，这个算法定义了不同区块的不同标注集合，通过权重计算来得到最可能的区块位置。 • 疏密度判断，计算单位个数区块内的平均文本内容长度，根据疏密程度来大致区分。 • Scrapyly 自学习，是 Scrapy 开发的组件，指定⻚页⾯面和提取结果样例例，其可⾃自学习提取规则，提取其他同类⻚页⾯面。 • 深度学习，使⽤用深度学习来对解析位置进⾏行行有监督学习，需要⼤大量量标注数据。 如果能够容忍一定的错误率，可以使用智能解析来大大节省时间。 目前这部分内容我也还在探索中，准确率有待继续提高。 2、储存 存储，即选用合适的存储媒介来存储爬取到的结果，这里还是分为四种存储方式来进行介绍。 • 文件，如 JSON、CSV、TXT、图⽚、视频、⾳频等，常用的一些库有 csv、xlwt、json、pandas、pickle、python-docx 等。 • 数据库，分为关系型数据库、非关系型数据库，如 MySQL、MongoDB、HBase 等，常用的库有 pymysql、pymssql、redis-py、pymongo、py2neo、thrift。 • 搜索引擎，如 Solr、ElasticSearch 等，便于检索和实现⽂本匹配，常用的库有 elasticsearch、pysolr 等。 • 云存储，某些媒体文件可以存到如七⽜牛云、又拍云、阿里云、腾讯云、Amazon S3 等，常用的库有 qiniu、upyun、boto、azure-storage、google-cloud-storage 等。 这部分的关键在于和实际业务相结合，看看选用哪种方式更可以应对业务需求 当然爬虫采集数据使用高质量的http代理 ，效果是最好的。