Scrapy 中Filtered offsite request to 'www.sohu.com':报错的解决方法

1.查到的原因为：

allow domain中的地址和request的地址不一致。

2.解决方案：

将allow domain中的地址修改成和request的地址一致。

或者yield scrapy.Request中添加dont_filter = True