zl程序教程

您现在的位置是:首页 >  其他

当前栏目

使用BeautifulSoup爬虫程序获取百度搜索结果的标题和url示例

搜索百度爬虫程序 使用 获取 示例 结果
2023-06-13 09:15:16 时间

熟悉Java的jsoup包的话,对于Python的BeautifulSoup库应该很容易上手。

复制代码代码如下:


#coding:utf-8
importsys
importurllib
importurllib2
fromBeautifulSoupimportBeautifulSoup

question_word="吃货程序员"
url="http://www.baidu.com/s?wd="+urllib.quote(question_word.decode(sys.stdin.encoding).encode("gbk"))
htmlpage=urllib2.urlopen(url).read()
soup=BeautifulSoup(htmlpage)
printlen(soup.findAll("table",{"class":"result"}))
forresult_tableinsoup.findAll("table",{"class":"result"}):
   a_click=result_table.find("a")
   print"-----标题----\n"+a_click.renderContents()#标题
   print"----链接----\n"+str(a_click.get("href"))#链接
   print"----描述----\n"+result_table.find("div",{"class":"c-abstract"}).renderContents()#描述
   print