scrapy是一个专业的网络爬虫框架

哈哈,bs4 re学完之后本来说是不往下进行了,无奈兴趣使然。哈哈哈其实就是连着两个人问我关于这个库的问题。看起来学一比较好啦! ~开始正题  ps:最近时间真的不够用==因为渣

scrapy是一个专业的网络爬虫框架

首先安装scrapycmd中输入 pip install scrapy

 

然后出来这些东西

结果当然是报错!

 

 pip安装Scrapy的时候,报错Failed building wheel for Twisted。和error: Microsoft Visual C++ 14.0 is required 

 

 

需要我们自己下载Twisted,然后安装。这里有Python的各种依赖包。选择适合自己Python以及系统的Twisted版本。 

我的解决方法如下:

 

我是python3.6.1的 看完版本以后去http://www.lfd.uci.edu/~gohlke/pythonlibs/#twisted

 

下载电脑对应twisted

下载好之后,cd到下载文件夹。pip install Twisted的文件名。比如

pip install Twisted-17.5.0-cp36-cp36m-win_amd64.whl

即可安装Twisted 

 

安装完了twisted再安装scrapy

pip install scrapy

好了装完了!

原文地址:https://www.cnblogs.com/fairy-wzp/p/7244603.html