Python3爬虫利器:Scrapy-Redis的安装

Scrapy-Redis是Scrapy的分布式扩展模块,有了它,我们就可以方便地实现Scrapy分布式爬虫的搭建。本节中,我们将介绍Scrapy-Redis的安装方式。

相关链接

GitHub:https://github.com/rmax/scrapy-redis

PyPI:https://pypi.python.org/pypi/scrapy-redis

官方文档:http://scrapy-redis.readthedocs.io

pip安装

这里推荐使用pip安装,命令如下:

pip3 install scrapy-redis

wheel安装

此外,也可以到PyPI下载wheel文件安装(详见https://pypi.python.org/pypi/scrapy-redis#downloads),如当前的最新版本为0.6.8,则可以下载scrapy_redis-0.6.8-py2.py3-none-any.whl,然后通过pip安装即可:

pip3 install scrapy_redis-0.6.8-py2.py3-none-any.whl

测试安装

安装完成之后,可以在Python命令行下测试:

$ python3
>>> import scrapy_redis

如果没有错误报出,则证明库已经安装好了。

众多python教程,尽在云海天教程网,欢迎在线学习!

本文转自:https://cuiqingcai.com/5432.html

hmoban主题是根据ripro二开的主题,极致后台体验,无插件,集成会员系统
自学咖网 » Python3爬虫利器:Scrapy-Redis的安装