• Selenium入门


    前言

            之前分享完了Git,主要分享的是怎么上手,可以根据内容学习其他的比如gitlab。平时在网上找图片一个一个下载,或者看小说想下载,但是没给你下载的地址,咱就自己下,批量下。所以这就分享一下selenium的爬虫相关的知识。


    一、selenium是什么? 

            Selenium是一个用于Web应用程序自动化测试工具。Selenium测试直接运行在浏览器中,就像真正的用户在
     操作一样。支持的浏览器包括IE(7, 8, 9, 10, 11),Mozilla Firefox,Safari,Google Chrome,Opera等。
     适用于自动化测试,js动态爬虫(破解反爬虫)等领域。

    二、selenium的组成 

    1)Selenium IDE:嵌入到Firefox浏览器中的一个插件,实现简单的浏览器操作录制与回放功能,主要用于快速创建BUG及重现脚本,可转化为多种语言


         2)Selenium RC: 核心组件,支持多种不同语言编写自动化测试脚本,通过其服务器作为代理服务器去访问应用,达到测试的目的


         3)Selenium WebDriver(重点):一个浏览器自动化框架,它接受命令并将它们发送到浏览器。它是通过特定于浏览器的驱动程序实现的。它直接与浏览器通信并对其进行控制。Selenium WebDriver支持各种编程语言,如Java、C# 、PHP、Python、Perl、Ruby


         4)Selenium grid:测试辅助工具,用于做分布式测试,可以并行执行多个测试任务,提升测试效率。
     

    三、Selenium特点 

         1)开源、免费
         2)多浏览器支持:FireFox、Chrome、IE、Opera、Edge;
         3)多平台支持:Linux、Windows、MAC;
         4)多语言支持:Java、Python、Ruby、C#、JavaScript、C++;
         5)对Web页面有良好的支持;
         6)简单(API 简单)、灵活(用开发语言驱动);
         7)支持分布式测试用例执行。

    四、实际使用

        用的是maven,浏览器用的Google。

            1、首先下载驱动

    咱先看看自己的谷歌的版本

    然后去这里====》http://chromedriver.storage.googleapis.com/index.html下载对应版本的驱动。

    确认主版本号一致

     看自己的版本下载。 

            2、创建项目并导入依赖

    1. <dependency>
    2. <groupId>org.seleniumhq.seleniumgroupId>
    3. <artifactId>selenium-javaartifactId>
    4. <version>3.141.59version>
    5. dependency>

             3、入门使用

    1. //设置驱动
    2. System.setProperty("webdriver.chrome.driver","D:\\Software\\chromedriver_win32\\chromedriver.exe");
    3. //创建驱动
    4. WebDriver driver=new ChromeDriver();
    5. //与将要爬取的网站建立连接
    6. driver.get("https://www.baidu.com");
    7. //关闭浏览器
    8. driver.close();
    9. // //释放资源
    10. driver.quit();

            4、相关API

      1.元素选择方式
         
                 1)Class选择:driver.findElement(By.className("s_ipt"));
                 2)ID选择:   driver.findElement(By.id("kw"));
                 3)name选择: driver.findElement(By.name("wd"));
                 4)tag选择:  driver.findElements(By.tagName("input"));
                 5)link选择: driver.findElement(By.linkText("地图"));
                 6)Partial link选择(a标签文本内容模糊匹配):driver.findElement(By.partialLinkText("使用百"));
                 7)css选择器:driver.findElement(By.cssSelector("#kw"));
                 8)xpath选择:driver.findElement(By.xpath("//*[@id=\"kw\"]"));

         2.获取单个元素:driver.findElement

         3.获取多个元素:driver.findElements

         4.输入内容:input.sendKeys("java");

         5.元素点击:element.click();

         6.获取元素属性:nextPageEle.getAttribute("class")

         7.获取标签文本内容:titleEle.getText()

            5、案例

            1、Class选择

    1. // 1、Class选择
    2. WebElement s_btn = driver.findElement(By.className("s_btn"));
    3. System.out.println(s_btn.getAttribute("value"));

            2、ID选择

    1. // 2、ID选择
    2. WebElement su = driver.findElement(By.id("su"));
    3. System.out.println(su.getAttribute("value"));

            3、name选择

    1. // 3、name选择
    2. WebElement rsv_pq = driver.findElement(By.name("rsv_pq"));
    3. System.out.println(rsv_pq.getAttribute("value"));

            4、tag选择1

    1. // 4、tag选择
    2. List eles = driver.findElements(By.tagName("a"));
    3. for (WebElement ele : eles) {
    4. System.out.println(ele.getText());
    5. }

            5、link选择

    1. // 5、link选择
    2. WebElement dt = driver.findElement(By.linkText("地图"));
    3. dt.click();

            6、Partial link选择

    1. // 6、partial link选择(a标签文本内容模糊匹配)
    2. List eles = driver.findElements(By.partialLinkText("3"));
    3. for (WebElement ele : eles) {
    4. System.out.println(ele.getText());
    5. }

            7、css选择器

    1. // 7、css选择
    2. WebElement ele = driver.findElement(By.cssSelector("#hotsearch-content-wrapper > li:nth-child(6) > a > span.title-content-title"));
    3. System.out.println(ele.getText());

            8、xpath选择

    1. // 8、xpath选择
    2. WebElement ele = driver.findElement(By.xpath("//*[@id=\"hotsearch-content-wrapper\"]/li[4]/a/span[2]"));
    3. System.out.println(ele.getText());


    总结

    本次的分享到此为止啦,本次仅简单的分享了selenium的爬虫的简单的使用,因技术有限,如有错误还望指正。

  • 相关阅读:
    git 把master分支代码合并到自己分支(常用git 命令)
    k8s学习笔记4-基础部分pod探针
    K8S原理架构与实战教程
    能迪科技智能控制系统对中央空调进行精准、单独调控医院案例
    openGauss学习笔记-108 openGauss 数据库管理-管理用户及权限-用户
    前端---知识
    常见响应头,请求头
    如何基于Angular从.ts获取鼠标响应的屏幕坐标,并传递至.html的Style中
    YOLOv8-Seg改进:轻量级Backbone改进 | VanillaNet极简神经网络模型 | 华为诺亚2023
    【Python基础】高级数据类型:初识 “列表” || 列表的增删改查 || del关键字 || 列表的定义
  • 原文地址:https://blog.csdn.net/qq_62331938/article/details/127106252