爬虫系列4:scrapy技术进阶之多页面爬取
多页面爬取有两种形式。
1)从某一个或者多个主页中获取多个子页面的url列表,parse()函数依次爬取列表中的各个子页面。
2)从递归爬取,这个相对简单。在scrapy中只要定义好初始页面以及爬虫规则rules,就能够实现自动化的递归爬取。
获取子页面url列表的代码示例如下:
#先获取url list,然后根据list爬取各个子页面内容 fromtutorial.items import DmozItem
classDmozSpider(scrapy.Spider): name = "dmoz" allowed_domains = ["dmoz.org"] start_urls =["http://www.dmoz.org/Computers/Programming/Languages/Python/",]
def parse(self, response): for href inresponse.css("ul.directory.dir-col > li > a::attr('href')"): #获取当前页面的url:respone.url #通过拼接response.url和href.extract(),将相对网址转换为绝对网址 url =response.urljoin(response.url, href.extract()) yield scrapy.Request(url, callback=self.parse_dir_contents)
#负责子页面内容的爬取 def parse_dir_contents(self, response): for sel in response.xpath('//ul/li'): item = DmozItem() item['title'] =sel.xpath('a/text()').extract() item['link'] = sel.xpath('a/@href').extract() item['desc'] =sel.xpath('text()').extract() yield item
相关文章
- Python使用tkinter组件Label显示简单数学公式
- 内网渗透之DCOM横向移动
- 以目标为导向的语义交流的共同语言——一个课程学习框架
- python爬虫前奏【成信笔记】
- HTML 5 File API:文件拖放上传功能
- 教你快速创建 Python 虚拟环境
- pyenv 实现Python多版本自由切换
- 用 Python 对 Excel文件进行批量操作
- Python - 接入钉钉机器人
- Python - 抓取 iphone13 pro 线下店供货信息并发送到钉钉机器人,最后设置为定时任务
- crontab - 解决 mac 下通过 crontab 设置了 Python 脚本的定时任务却无法运行
- [源码解析] PyTorch分布式(5) ------ DistributedDataParallel 总述&如何使用
- Python科普系列——类与方法(上篇)
- SAP对STO的交货单执行PGI,报错 -Fld selectn for mvmt type 643 acct 400020 differs
- Spring Boot 实现通用 Auth 认证的 4 种方式
- 盘点4种使用Python批量合并同一文件夹内所有子文件夹下的Excel文件内所有Sheet数据
- OushuDB 学习经验分享(三):技术特点
- Java和Python思维方式的不同之处
- Python中日志记录新技能
- 奥比中光Gemini OpenCV—Python使用