Python Selenium 概要
学习selenium自动化测试框架在爬虫中的应用,selenium能够大幅降低爬虫的编写难度,但是也同样会大幅降低爬虫的爬取速度。在逼不得已的情况下我们可以使用selenium进行爬虫的编写。
了解selenium的工作原理;
了解selenium以及chromedriver的安装;
掌握 标签对象click点击以及send_keys输入;
1、selenium运行效果展示
Selenium是一个Web的自动化测试工具,最初是为网站自动化测试而开发的,Selenium可以直接调用浏览器,它支持所有主流的浏览器(包括PhantomJS这些无界面的浏览器),可以接收指令,让浏览器自动加载页面,获取需要的数据,甚至页面截屏等。我们可以使用selenium很容易完成之前编写的爬虫,接下来我们就来看一下selenium的运行效果。
1.1 chrome 浏览器的运行效果
在下载好chromedriver以及安装好selenium模块后,执行下列代码并观察运行的过程。
from selenium import webdriver
# 如果driver没有添加到环境变量,则需要将driver的绝对路径赋值给executable_ath参数
#driver = webdriver.Chrome(executable_path='/home/worker/Desktop/drover/chromedriver')
# 如果driver添加了环境变量则不需要设置executable_path
driver = webdriver.Chrome()
# 向一个url发起请求
driver.get("http://www.itcast.cn/")
# 把网页保存为图片,69版本的谷歌浏览器将无非使用截图功能
# driver.save_screenshot("itcast.png")
# 打印网页标题
print(driver.title)
# 退出模拟浏览器
driver.quit() # --一定要退出!不退出会有残留进程!
1.2 phantomjs 无界面浏览器的运行效果
PhantomJS是一个基于Webkit的“无界面”(headless)浏览器,它会把网站加载到内存并执行页面上的JavaScript.
from selenium import webdriver
# 指定driver的绝对路径
driver = webdriver.PhantomJS(executable_path='/home/worker/Desktop/driver/phantoomjs')
# driver = webdriver.Chrome(executable_path='/home/worker/Desktop/driver/chromedriver')
# 向一个url发起请求
driver.get("http://www.itcast.cn/")
# 把网页保存为图片
driver.save_screenshot("itcast.png")
# 退出模拟浏览器
driver.quit()
1.3 无头浏览器与有头浏览器的使用场景
通常在开发过程中我们需要查看运行过程中的各种情况所以通常使用有头浏览器;
在项目完成进程部署的时候,通常平台采用的系统多少服务器版的操作系统,服务器的操作系统必须使用无头浏览器才能正常运行。
2、selenium 的作用和工作原理
利用浏览器原生的API,封装成一套更加面向对象的Selenium WebDriver API,直接操作浏览器页面里的元素,甚至操作浏览器本身(截屏,窗口大小,启动,关闭,安装插件,配置证书之类的)
webdriver本质是一个web-server,对外提供webapi,其中封装了浏览器的各种功能;
不同的浏览器使用各自不同的webdriver;
3、selenium的安装以及简单使用
我们以谷歌浏览器的chromedriver为例。
3.1 在Python 虚拟环境中安装selenium模块
pip/pip3 install selenium
3.2 下载版本符合的webdriver
以chrome谷歌来历为例
1)、查看谷歌来历的版本
1)、访问 http://npm.taobao.org/mirrors/chromedriver/,点击进入不同版本的chromedriver下载页面;
2)、下载对应版本
解压压缩包后获取python代码可以调用的谷歌浏览器的webdriver可执行文件
windows为chromedriver.exe;
linux和macos为chromedriver;
3)、chromedriver环境的配置
windows环境下需要将chromedriver.exe所在目录设置为path环境变量中的路径;
linux/mac环境下,将chromedriver所在目录设置到系统的PATH环境值中
4、selenium的简单使用
import time
from selenium import webdriver
# 通过指定chromedriver的路径来实例化driver对象,chromedriver放在当前目录
# driver = webdriver.Chrome(exeecutable_path='./chromedriver')
# chromedriver已经添加环境变量
driver = webdriver.Chrome()
# 控制浏览器访问url地址
driver.get("https://www.baidu.com/")
# 百度搜索框中搜索Python
driver.find_element_by_id('kw').send_keys('python')
# 点击‘百度搜索'
driver.find_element_by_id('su').click()
time.sleep(6)
# 退出浏览器
driver.quit()
webdriver.Chrome(executable_path=’./chromedriver’)中executable参数指定的是下载好的chromedriver文件的路径;
driver.find_element_by_id(‘kw’).send_keys(‘python’)定位id属性值是’kw’的标签,并向其中输入字符串’python’;
driver.find_element_by_id(‘su’).click()定位id属性值是su的标签,并点击
click函数的作用是:触发标签的js的click事件;
相关文章
- Python脚本扫描给定网段的MAC地址表(scapy或 python-nmap)
- python中,如有个非常长的字符串,在写的时候如何将其分隔
- python+selenium 方法大全
- 编程语言理解2-java编译器,python解释器,java,python,c 运行原理
- Python list变量加星号,字典变量前面加星号
- Python 卸载python
- 【华为OD机试真题 python】 简单的自动曝光【2022 Q4 | 100分】
- 如何快速学习python,学好python?能通过Python赚到的第一笔钱,有哪些经验可以分享吗?
- python中uwsgi的简单部署使用
- 每天一个python小知识——如何在Python 3中转换数据类型
- 将自己OpenCV-Python-PyCharm开发环境的Python-3.6.8更换为python-3.9.10的详细过程记录
- 如何搭建selenium自动化测试框架?selenium自动化测试环境搭建(webdriver+Python框架)
- 机器人系统设计与制作:Python语言实现1.1 什么是机器人
- python 转unicode_python中将uxxxx转换为Unicode字符串的方法
- Python中python-nmap模块的使用
- gyp ERR! stack Error: Can‘t find Python executable “python“, you can set the PYTHON env variable.
- 【python】剑指 Offer 55 - I. 二叉树的深度
- 【Selenium核心技术篇】操作下拉列表(用到selenium中工具类Select方法)
- 使用 Python 简化量子力学中的代数,如何使用 annihilation 和 creation operators 自定义 SymPy 以进行繁琐的计算。
- Python 实现被动收入教程之我如何使用 python 制作我的第一个高级telegram机器人
- python Flask中html模版中如何引用css,js等资源
- 每天学点Python之comprehensions
- python小游戏编程arcade----坦克动画图片合成
- 一入Python深似海--print
- 基于python+selenium的框架思路
- Python用python-docx读写word文档
- Python 爬虫基础Selenium
- python selenium while 循环
- Python enumerate() 函数