• 爬虫神器Selenium傻瓜教程,看了直呼牛掰


    0. 准备工作

    在开始后续功能演示之前,我们需要先安装Chrome浏览器并配置好ChromeDriver,当然也需要安装selenium库!

    0.1. 安装selenium

    pip install selenium
    

    0.2. 安装浏览器驱动

    其实,有两种方式安装浏览器驱动:一种是常见的手动安装,另一种则是利用第三方库自动安装。

    以下前提:大家都已经安装好了Chrome浏览器哈

    手动安装

    先查看本地Chrome浏览器版本:(两种方式均可)

    • 在浏览器的地址栏键入Chrome://version,即可查看浏览器版本号

    • 或者点击Chrome菜单 帮助关于Google Chrome,查看浏览器版本号

    再选择对应版本号的驱动版本

    下载地址:https://chromedriver.storage.googleapis.com/index.html

    最后进行环境变量配置,也就是将对应的ChromeDriver的可执行文件chromedriver.exe文件拖到PythonScripts目录下。

    注:当然也可以不这样做,但是在调用的时候指定chromedriver.exe绝对路径亦可。

    自动安装

    自动安装需要用到第三方库webdriver_manager,先安装这个库,然后调用对应的方法即可。

    1. from selenium import webdriver
    2. from selenium.webdriver.common.keys import Keys
    3. from webdriver_manager.chrome import ChromeDriverManager
    4. browser = webdriver.Chrome(ChromeDriverManager().install())
    5. browser.get('http://www.baidu.com')
    6. search = browser.find_element_by_id('kw')
    7. search.send_keys('python')
    8. search.send_keys(Keys.ENTER)
    9. # 关闭浏览器
    10. browser.close()

    在上述代码中,ChromeDriverManager().install()方法就是自动安装驱动的操作,它会自动获取当前浏览器的版本并去下载对应的驱动到本地。

    1. ====== WebDriver manager ======
    2. Current google-chrome version is 96.0.4664
    3. Get LATEST chromedriver version for 96.0.4664 google-chrome
    4. There is no [win32] chromedriver for browser in cache
    5. Trying to download new driver from https://chromedriver.storage.googleapis.com/96.0.4664.45/chromedriver_win32.zip
    6. Driver has been saved in cache [C:\Users\Gdc\.wdm\drivers\chromedriver\win32\96.0.4664.45]

    如果本地已经有该浏览器渠道,则会提示其已存在。

    1. ====== WebDriver manager ======
    2. Current google-chrome version is 96.0.4664
    3. Get LATEST driver version for 96.0.4664
    4. Driver [C:\Users\Gdc\.wdm\drivers\chromedriver\win32\96.0.4664.45\chromedriver.exe] found in cache

    搞定以上准备工作,我们就可以开始本文正式内容的学习啦~

    1. 基本用法

    这节我们就从初始化浏览器对象、访问页面、设置浏览器大小、刷新页面和前进后退等基础操作。

    1.1. 初始化浏览器对象

    在准备工作部分我们提到需要将浏览器渠道添加到环境变量或者指定绝对路径,前者可以直接初始化后者则需要进行指定。

    1. from selenium import webdriver
    2. # 初始化浏览器为chrome浏览器
    3. browser = webdriver.Chrome()
    4. # 指定绝对路径的方式
    5. path = r'C:\Users\Gdc\.wdm\drivers\chromedriver\win32\96.0.4664.45\chromedriver.exe'
    6. browser = webdriver.Chrome(path)
    7. # 关闭浏览器
    8. browser.close()

    初始化浏览器对象

    可以看到以上是有界面的浏览器,我们还可以初始化浏览器为无界面的浏览器

    1. from selenium import webdriver
    2. # 无界面的浏览器
    3. option = webdriver.ChromeOptions()
    4. option.add_argument("headless")
    5. browser = webdriver.Chrome(options=option)
    6. # 访问百度首页
    7. browser.get(r'https://www.baidu.com/')
    8. # 截图预览
    9. browser.get_screenshot_as_file('截图.png')
    10. # 关闭浏览器
    11. browser.close()

    截图

    完成浏览器对象的初始化后并将其赋值给了browser对象,接下来我们就可以调用browser来执行各种方法模拟浏览器的操作了。

    1.2. 访问页面

    进行页面访问使用的是get方法,传入参数为待访问页面的URL地址即可。

    1. from selenium import webdriver
    2. # 初始化浏览器为chrome浏览器
    3. browser = webdriver.Chrome()
    4. # 访问百度首页
    5. browser.get(r'https://www.baidu.com/')
    6. # 关闭浏览器
    7. browser.close()

    1.3. 设置浏览器大小

    set_window_size()方法可以用来设置浏览器大小(就是分辨率),而maximize_window则是设置浏览器为全屏!

    1. from selenium import webdriver
    2. import time  
    3. browser = webdriver.Chrome()
    4. # 设置浏览器大小:全屏
    5. browser.maximize_window()   
    6. browser.get(r'https://www.baidu.com')  
    7. time.sleep(2)
    8. # 设置分辨率 500*500
    9. browser.set_window_size(500,500)  
    10. time.sleep(2)
    11. # 设置分辨率 1000*800
    12. browser.set_window_size(1000,800
    13. time.sleep(2)
    14. # 关闭浏览器
    15. browser.close()

    这里就不截图了,大家自行演示看效果哈~

    1.4. 刷新页面

    刷新页面是我们在浏览器操作时很常用的操作,这里refresh()方法可以用来进行浏览器页面刷新。

    1. from selenium import webdriver
    2. import time  
    3. browser = webdriver.Chrome()
    4. # 设置浏览器全屏
    5. browser.maximize_window()   
    6. browser.get(r'https://www.baidu.com')  
    7. time.sleep(2)
    8. try:
    9.     # 刷新页面
    10.     browser.refresh()  
    11.     print('刷新页面')
    12. except Exception as e:
    13.     print('刷新失败')
    14.    
    15. # 关闭浏览器
    16. browser.close()

    大家也是自行演示看效果哈,同F5快捷键。

    1.5. 前进后退

    前进后退也是我们在使用浏览器时非常常见的操作,这里forward()方法可以用来实现前进,back()可以用来实现后退。

    1. from selenium import webdriver
    2. import time  
    3. browser = webdriver.Chrome()
    4. # 设置浏览器全屏
    5. browser.maximize_window()   
    6. browser.get(r'https://www.baidu.com')  
    7. time.sleep(2)
    8. # 打开淘宝页面
    9. browser.get(r'https://www.taobao.com')  
    10. time.sleep(2)
    11. # 后退到百度页面
    12. browser.back()  
    13. time.sleep(2)
    14. # 前进的淘宝页面
    15. browser.forward() 
    16. time.sleep(2)
    17. # 关闭浏览器
    18. browser.close()

    2. 获取页面基础属性

    当我们用selenium打开某个页面,有一些基础属性如网页标题、网址、浏览器名称、页面源码等信息。

    1. from selenium import webdriver
    2. browser = webdriver.Chrome()
    3. browser.get(r'https://www.baidu.com'
    4. # 网页标题
    5. print(browser.title)
    6. # 当前网址
    7. print(browser.current_url)
    8. # 浏览器名称
    9. print(browser.name)
    10. # 网页源码
    11. print(browser.page_source)

    输出如下&#x

  • 相关阅读:
    QT项目:网络聊天室
    画图带你彻底弄懂三级缓存和循环依赖的问题
    【设计模式】七大设计原则
    2023.11.09 homework
    java面试题_消息中间件--RabbitMQ(20题)
    快速查看物理机器CPU核数
    麒麟操作系统设置QT程序开机自启动有效方法
    介绍ClickHouse重要特性——系统表
    JTS:11 Overlaps 部分重叠
    数字秒表VHDL启动暂停清零,源码和视频
  • 原文地址:https://blog.csdn.net/npm_run_dev__/article/details/126878317