scrapy爬虫的编写步骤

scrapy的步骤:
a.编写item,爬取的各个属性
b.编写spider,name 要和 scrapy crawl xxspider一致,里面编写parse的信息,就是xpath获取item的各个信息。同时获取下一个要爬取的url放入url_set()队列
c.pipeline,item的数据落地
d.setting的设置

4. 手写一个爬虫框架:
1.下载网页
2.过滤网页
3.数据落地

5. 手写一个建议爬虫的方法
1.下载网页
2.获取网页相关数据
3.数据落地
4.获取下一页地址
5.循环

原文地址:https://www.cnblogs.com/dzhou/p/10283051.html