zl程序教程

您现在的位置是:首页 >  后端

当前栏目

爬虫日记(67):Scrapy的XMLFeedSpider使用

爬虫scrapy 日记 67 使用
2023-09-14 09:10:04 时间

在前面我们使用一般的方式来抓取过新闻,那是基于普通的urllib和beautifulsoup组件来实现的,需要写比较多的代码。由于RSS是一种标准格式,这样我们就可以使用标准类抽取网页内容,不需要从头开始写这些代码。

简易信息聚合(也叫聚合内容)是一种基于XML的标准,在互联网上被广泛采用的内容包装和投递协议。RSS(Really Simple Syndication)是一种描述和同步网站内容的格式,是使用最广泛的XML应用。RSS搭建了信息迅速传播的一个技术平台,使得每个人都成为潜在的信息提供者。发布一个RSS文件后,这个RSS Feed中包含的信息就能直接被其他站点调用,而且由于这些数据都是标准的XML格式,所以也能在其他的终端和服务中使用,是一种描述和同步网站内容的格式。

让我们看一个简单的 RSS 文档:

<?xml version="1.0" encoding="ISO-8859-1" ?>

<rss version="2.0">



<channel>

  <title>W3School Home Page</title>

  <link>http://www.w3school.com.cn</link>

  <description>Free web building tutorials</description>

  <item>

    <title>RSS Tutorial</title>

    <link>http://www.w3school.com