Scrapy在PyCharm里面运行,调试

首先通过csrapy shell命令创建一个scrapy项目。

 scrapy startproject projectname

会生成如下文件

进入spider_405文件夹

我们自己写的爬虫项目就放在spiders文件夹里面

 items.py是用来保存你爬取的数据的数据结构

在scrapy.cfg同目录下新建一个begin.py文件

 在begin.py中编辑内容如下,注意红框中是在spiders里面name的值

之后调试程序时,运行begin.py文件即可,调试信息会在run框中打印输出

知止而后有定,定而后能静,静而后能安,安而后能虑,虑而后能得
原文地址:https://www.cnblogs.com/taoHongFei/p/8722037.html