Python pyspider的安装与开发
PySpider 简介
PySpider是一个国人编写的强大的网络爬虫系统并带有强大的WebUI。采用Python语言编写,分布式架构,支持多种数据库后端,强大的WebUI支持脚本编辑器、任务监视器,项目管理器以及结果查看器。
PySpider 来源于以前做的一个垂直搜索引擎使用的爬虫后端。我们需要从200个站点(由于站点失效,不是都同时啦,同时有100+在跑吧)采集数据,并要求在5分钟内将对方网站的更新更新到库中。所以,灵活的抓取控制是必须的。
同时,由于100个站点,每天都可能会有站点失效或者改版,所以需要能够监控模板失效,以及查看抓取状态。
为了达到5分钟更新,我们使用抓取最近更新页上面的最后更新时间,以此来判断页面是否需要再次抓取。
可见,这个项目对于爬虫的监控和调度要求是非常高的。
- PySpider 中文网:http://www.pyspider.cn
- PySpider 官网:http://docs.pyspider.org
- PySpider 演示:http://demo.pyspider.org
- PySpider 源码:https://github.com/binux/pyspider
PySpider 特性
python 脚本控制,可以用任何你喜欢的html解析包(内置 pyquery)
WEB 界面编写调试脚本、起停脚本、监控执行状态,查看活动历史,获取结果产出
数据存储支持MySQL、MongoDB、Redis、SQLite、 ElasticSearch; PostgreSQL 及 SQLAlchemy
队列服务支持RabbitMQ、Beanstalk、Redis、Kombu
支持抓取 JavaScript 的页面
组件可替换,支持单机/分布式部署,支持 Docker 部署
强大的调度控制,支持超时重爬及优先级设置
支持Python 2.{6, 7}, 3.{3, 4, 5, 6}
PySpider 安装
1) pip 安装
pip可以在以下版本的CPython下运行:2.6, 2.7, 3.1, 3.2, 3.3, 3.4 和 pypy.
pip可以在Unix/Linux、Mac OS X、Windows系统中运行.
a)脚本安装
python get-pip.py
如果 setuptools (或 distribute) 未安装, get-pip.py
会 自动为你安装 setuptools
如果需要升级 setuptools (或 distribute),运行 pip install -U setuptools
b)命令安装
sudo apt-get install python-pip // Debian、Ubuntu
sudo yum install python-pip // CentOS、Redhat、Fedora
2)PhantomJS 安装
PhantomJS 是一个基于 WebKit 的服务器端 JavaScript API。它全面支持web而不需浏览器支持,其快速、原生支持各种Web标准:DOM 处理、CSS 选择器、JSON、Canvas 和 SVG。 PhantomJS 可以用于页面自动化、网络监测、网页截屏以及无界面测试等。支持Windows、Linux、Mac OS X等多操作系统。
PhantomJS 下载:http://phantomjs.org/download.html
PhantomJS不需要安装,解压后,配置环境变量后,便可直接使用,详见 PhantomJS 安装与开发
PhantomJS 安装命令:
sudo apt-get install phantomjs // Debian、Ubuntu
sudo pkg install phantomjs // FreeBSD
brew install phantomjs // Mac OS X
3)PySpider 安装
PySpider 安装的依赖包 requirements.txt
- Flask>=0.10
- Jinja2>=2.7
- chardet>=2.2
- cssselect>=0.9
- lxml
- pycurl
- pyquery
- requests>=2.2
- tornado>=3.2
- mysql-connector-python>=1.2.2
- pika>=0.9.14
- pymongo>=2.7.2
- unittest2>=0.5.1
- Flask-Login>=0.2.11
- u-msgpack-python>=1.6
- click>=3.3
- SQLAlchemy>=0.9.7
- six>=1.5.0
- amqp>=1.3.0,<2.0
- redis
- redis-py-cluster
- kombu
- psycopg2
- elasticsearch
- tblib
PySpider 安装命令:
- pip install pyspider
Ubuntu 用户,请提前安装好以下支持类库:
- sudo apt-get install python python-dev python-distribute python-pip libcurl4-openssl-dev libxml2-dev libxslt1-dev python-lxml
4)验证安装成功
控制台输入命令:
- pyspider all
使用浏览器访问 http://localhost:5000
正常出现 PySpider 的页面,那证明一切 OK
PySpider 示例
1)示例1:爬取米扑科技首页(mimvp.com)
- #!/usr/bin/env python
- # -*- encoding: utf-8 -*-
- # Created on 2017-07-28 13:44:53
- # Project: pyspiderdemo
- # mimvp.com
- from pyspider.libs.base_handler import *
- class Handler(BaseHandler):
- crawl_config = {
- }
- @every(minutes=24 * 60)
- def on_start(self):
- self.crawl('mimvp.com', callback=self.index_page)
- @config(age=10 * 24 * 60 * 60)
- def index_page(self, response):
- for each in response.doc('a[href^="http"]').items():
- self.crawl(each.attr.href, callback=self.detail_page)
- @config(priority=2)
- def detail_page(self, response):
- return {
- "url": response.url,
- "title": response.doc('title').text(),
- }
运行结果:
2)示例2:设置代理爬取网页
PySpider 支持使用代理爬取网页,其使用代理有两种方式:
方式1:
--phantomjs-proxy TEXT phantomjs proxy ip:port
启动命令例如:
pyspider --phantomjs-proxy "188.226.141.217:8080" all
方式2:
设置代理全局变量,如下图:
crawl_config = { 'proxy' : '188.226.141.217:8080'}
示例代码:
- #!/usr/bin/env python
- # -*- encoding: utf-8 -*-
- # Created on 2017-07-28 14:13:14
- # Project: mimvp_proxy_pyspider
- #
- # mimvp.com
- from pyspider.libs.base_handler import *
- class Handler(BaseHandler):
- crawl_config = {
- 'proxy' : 'http://188.226.141.217:8080', # http
- 'proxy' : 'https://182.253.32.65:3128' # https
- }
- @every(minutes=24 * 60)
- def on_start(self):
- self.crawl('http://proxy.mimvp.com/exist.php', callback=self.index_page)
- @config(age=10 * 24 * 60 * 60)
- def index_page(self, response):
- for each in response.doc('a[href^="http"]').items():
- self.crawl(each.attr.href, callback=self.detail_page)
- @config(priority=2)
- def detail_page(self, response):
- return {
- "url": response.url,
- "title": response.doc('title').text(),
- }
运行结果:
相关文章
- 在 Go 里用 CGO?这 7 个问题你要关注!
- 9款优秀的去中心化通讯软件 Matrix 的客户端
- 求职数据分析,项目经验该怎么写
- 在OKR中,我看到了数据驱动业务的未来
- 火山引擎云原生大数据在金融行业的实践
- OpenHarmony富设备移植指南(二)—从postmarketOS获取移植资源
- 《数据成熟度指数》报告:64%的企业领袖认为大多数员工“不懂数据”
- OpenHarmony 小型系统兼容性测试指南
- 肯睿中国(Cloudera):2023年企业数字战略三大趋势预测
- 适用于 Linux 的十大命令行游戏
- GNOME 截图工具的新旧截图方式
- System76 即将推出的 COSMIC 桌面正在酝酿大变化
- 2GB 内存 8GB 存储即可流畅运行,Windows 11 极致精简版系统 Tiny11 发布
- 迎接 ecode:一个即将推出的具有全新图形用户界面框架的现代、轻量级代码编辑器
- loongarch架构介绍(三)—地址翻译
- Go 语言怎么解决编译器错误“err is shadowed during return”?
- 敏捷:可能被开发人员遗忘的部分
- Denodo预测2023年数据管理和分析的未来
- 利用数据推动可持续发展
- 在 Vue3 中实现 React 原生 Hooks(useState、useEffect),深入理解 React Hooks 的