码农知识堂 - 1000bd
  •   Python
  •   PHP
  •   JS/TS
  •   JAVA
  •   C/C++
  •   C#
  •   GO
  •   Kotlin
  •   Swift
  • Jenkins部署的Windows爬虫机如何配置


    文章目录

    • 一 安装软件
      • 1. Python
        • 爬虫必备安装包
      • 2. Visual Studio Code
      • 3. Git
        • 3.1. 备选 - OneDrive
      • 4. Java
      • 5. 向日葵
    • 二 配置Chrome
      • 1. 查看Chrome版本
      • 2. 下载ChromeDriver
      • 3. 解压放入Python的Scripts文件夹
    • 三 生成SSH密钥对

    有时候, 一台Windows只是用来部署一些任务, 例如爬虫任务. 这个时候需要简单配置一下


    一 安装软件

    1. Python

    推荐Python3.10, Python简直爬虫首选.

    爬虫必备安装包

    模块使用场景
    pymysql与mysql交互的不二选择
    selenium爬虫必备, 完全无法被检测到的网页模拟操作神器
    requests爬虫必备,接口交互必用
    requests_toolbelt接口上传文件必备
    ddddocr爬虫必备,破解图片验证码神器
    opencv-python图像识别基础包,不会主动使用, 但是无处不在
    pillow大部分使用场景都是用来截图和拼图

    2. Visual Studio Code

    ☁️部署机用来改代码, 拉仓库, 实际用得不多. 偶尔部署有问题, 测试用用


    3. Git

    不主动用, 却又无处不在

    3.1. 备选 - OneDrive

    ☁️如果不喜欢或不习惯Git的话, 还是在每台电脑的固定位置都装一个OneDrive吧, 使用环境变量来写一套万用代码


    4. Java

    其实只需要Java Runtime Environment即可, 腾讯软件管家即可下载
    其实除了Python3.10, 2-5这4个都可以在软件管家下载


    5. 向日葵

    ☁️远程查看任务机状态必备啊


    二 配置Chrome

    1. 查看Chrome版本

    在这里插入图片描述
    在这里插入图片描述

    2. 下载ChromeDriver

    在这里插入图片描述
    在这里插入图片描述

    selenium最佳搭档ChromeDriver, 根据Chrome版本, 可以在国内镜像平台下载 : ChromeDriver Mirror
    不要求数字完全一致, 大版本相同就可以使用

    3. 解压放入Python的Scripts文件夹

    这个需要找找了, 一般是根据Python文件打开所在文件夹, 下面就有Scripts文件夹


    三 生成SSH密钥对

    打开cmd(实际上我一般打开的是PowerShell), 输入下面命令

    ssh-keygen -t rsa -C 'dan@csdn.net'
    
    • 1

    一路回车, 最后使用cat或者直接记事本打开id_rsa.pub文件, 复制到GitCodeSSH密钥处保存即可


    接下来, 创建Jenkins节点, 建立Git任务拉取项目, 再建一个执行任务就可以了

    - END -

  • 相关阅读:
    并发之多把锁和活跃性
    [数据结构与算法] 线性表之单链表基本操作
    python魔术方法和抽象类
    如何在 Net6.0 中对 WebAPI 进行 JWT 认证和授权
    Java进阶(八)Stream、异常体系
    建设基础设施Terraform
    Excel导入导出,增删改查的实现
    【字符编码系列一】ASCII编码是什么?
    【剑指offer系列】46. 把数字翻译成字符串
    【Unity,C#】哨兵点位循迹模板代码
  • 原文地址:https://blog.csdn.net/sinat_41870148/article/details/127914403
  • 最新文章
  • 攻防演习之三天拿下官网站群
    数据安全治理学习——前期安全规划和安全管理体系建设
    企业安全 | 企业内一次钓鱼演练准备过程
    内网渗透测试 | Kerberos协议及其部分攻击手法
    0day的产生 | 不懂代码的"代码审计"
    安装scrcpy-client模块av模块异常,环境问题解决方案
    leetcode hot100【LeetCode 279. 完全平方数】java实现
    OpenWrt下安装Mosquitto
    AnatoMask论文汇总
    【AI日记】24.11.01 LangChain、openai api和github copilot
  • 热门文章
  • 十款代码表白小特效 一个比一个浪漫 赶紧收藏起来吧!!!
    奉劝各位学弟学妹们,该打造你的技术影响力了!
    五年了,我在 CSDN 的两个一百万。
    Java俄罗斯方块,老程序员花了一个周末,连接中学年代!
    面试官都震惊,你这网络基础可以啊!
    你真的会用百度吗?我不信 — 那些不为人知的搜索引擎语法
    心情不好的时候,用 Python 画棵樱花树送给自己吧
    通宵一晚做出来的一款类似CS的第一人称射击游戏Demo!原来做游戏也不是很难,连憨憨学妹都学会了!
    13 万字 C 语言从入门到精通保姆级教程2021 年版
    10行代码集2000张美女图,Python爬虫120例,再上征途
Copyright © 2022 侵权请联系2656653265@qq.com    京ICP备2022015340号-1
正则表达式工具 cron表达式工具 密码生成工具

京公网安备 11010502049817号