在scrapy的spiders文件中设置请求时间间隔

设置某个spider单独使用的设置项等等。

在spiders文件中写如下:

  custom_settings = { 'DOWNLOAD_DELAY': 0.2, 'CONCURRENT_REQUESTS_PER_IP': 4, 'DOWNLOADER_MIDDLEWARES': {}, }

原文地址:https://www.cnblogs.com/jiafujun/p/7660724.html