python爬取图片反爬虫
使用工具:Python2.7 点我下载
scrapy框架
sublime text3
一。搭建python(Windows版本)
1.安装python2.7 —然后在cmd当中输入python,界面如下则安装成功
2.集成Scrapy框架—-输入命令行:pip install Scrapy
安装成功界面如下:
失败的情况很多,举例一种:
解决方案:
其余错误可百度搜索。
二。开始编程。
1.爬取无反爬虫措施的静态网站。例如百度贴吧,豆瓣读书。
python代码如下:
代码注释:引入了两个模块urllib,re。定义两个函数,第一个函数是获取整个目标网页数据,第二个函数是在目标网页中获取目标图片,遍历网页,并且给获取的图片按照0开始排序。
注:re模块知识点:
爬取图片效果图:
图片保存路径默认在建立的.py同目录文件下。
2.爬取有反爬虫措施的百度图片。如百度图片等。
例如关键字搜索“表情包”https://image.baidu.com/search/index?tn=baiduimage&ct=201326592&lm=-1&cl=2&ie=gbk&word=%B1%ED%C7%E9%B0%FC&fr=ala&ori_query=%E8%A1%A8%E6%83%85%E5%8C%85&ala=0&alatpl=sp&pos=0&hs=2&xthttps=111111
图片采用滚动式加载,先爬取最优先的30张。
代码如下:
代码注释:导入4个模块,os模块用于指定保存路径。前两个函数同上。第三个函数使用了if语句,并tryException异常。
爬取过程如下:
爬取结果:
注:编写python代码注重对齐,and不能混用Tab和空格,易报错。
以上就是本文的全部内容,希望本文的内容对大家的学习或者工作能带来一定的帮助,同时也希望多多支持脚本之家!
相关文章
- IEEE 2019编程语言排行榜出炉:趋势、开源、职位需求,Python都是第一
- 面向中级 Python 开发人员的 13 个项目构想
- 是时候对 Python2 说“拜拜了”
- 一个 Python 自动化脚本引发的惨案!把公司搞死了?
- 未来明星语言Julia或成Python劲敌
- Visual Studio 2019优化新鲜出炉:C++后端更新汇总
- 1分钟插入10亿行数据!抛弃Python,写脚本请使用Rust
- 节省显存新思路,在 PyTorch 里使用 2 bit 激活压缩训练神经网络
- TIOBE编程语言排行:C语言第一,Python反超Java,挤进第二
- 1.6 万 Star!微软谷歌都在用 Python 性能测试工具
- 7个实用小技巧,提升PyTorch技能,还带示例演示
- 2021年哪些编程语言的薪酬比较高?
- Java开始没落了吗?学Java真的没前途了吗?
- 入职第一天,就和公司后端闹掰了!
- 纯PyTorch语音工具包开源,Kaldi:我压力有点大
- 人脸识别对动画无效,迪士尼打造动画专用人脸识别库
- Python爬虫需要学多久才能掌握?
- Python30岁,先驱:没想到Python这么流行
- 这个图聚类Python工具火了:社群结构可视化、检测
- Python又添一大科学计算库,PyArmadillo发布