码农知识堂 - 1000bd
  •   Python
  •   PHP
  •   JS/TS
  •   JAVA
  •   C/C++
  •   C#
  •   GO
  •   Kotlin
  •   Swift
  • Docker 部署本地爬虫项目到服务器


    笔记:一直想写一篇博客的,那就趁着周末闲暇时光记录一下。

    目录

    一、前提准备

    二、Docker部署爬虫示例

    整体梳理

    1、打包构建本地项目镜像

    2、在 hub 网站上 创建一个仓库。

    3、将本地镜像与hub上的仓库打上标签

    4、确保已登录 Dockerhub 账号

    5、推送镜像到 Dockerhub 仓库中

    6、推送上传成功可去 hub 上查看 

    7、拉取 hub 镜像 

    8、测试运行


    一、前提准备

    我是 Windows 11 环境的,要先整一个 Docker Desktop 对于它的安装这里不记录,可以参考一下这篇博客(挺详细的) Docker Desktop 安装使用教程_dockerdesktop安装-CSDN博客

    二、Docker部署爬虫示例

    首先要有你本地的爬虫项目,想省事的朋友,我这里准备了测试项目,git 地址:bind_news · YXHLHM/docker_test - 码云 - 开源中国 (gitee.com) mysql 表在 init 文件中。

    结构如下图:

    • 整体梳理

    • 打包 项目依赖命令:
    pipreqs ./ --encoding=utf-8
    • Dockerfile:运行 main.py  (更多的编写命令可以百度查一下)

    • main.py:运行要执行的爬虫脚本

    这里注意要启动的爬虫脚本命令  /bind_news/aaa_inf3.py   bind_news 是你 Dockerfile 中创建的工作目录。

    下面进行 docker 相关的操作

    1、打包构建本地项目镜像

    cmd 进入本地项目根目录进行构建:要先运行起你的 Docker Desktop

    1. docker build -t csdn:v1.0.0 .
    2. # csdn -- 镜像的名称 -- 随便起
    3. # v1.0.0 -- 版本标签 -- 随便起
    4. # . 是将 Dockerfile 所在的工作目录 (项目根目录) 下的所有的文件进行构建,这里是将爬虫项目的所有文件构建打包,

    2、在 hub 网站上 创建一个仓库。

    这个是外网要挂一个代理,它地址:Docker Hub

    3、将本地镜像与hub上的仓库打上标签

    先查看本地镜像:docker images 

    1. docker tag 160e513ebf4b yxhlhm/csdn:v1.0.0
    2. # docker tag 镜像id dockerhub账号名称/hub仓库名称:标签

    4、确保已登录 Dockerhub 账号

    docker login -u 用户名 -p 密码

    如果提示不让执行,就直接输入:docker login 进行键入登录。下图登录成功

    或者直接用Docker desktop 登录你的 hub 账号就ok,下图:

    出现问题的话可以去看看:docker login Error response from daemon: Get "https://registry-1.docker.io/v_mob64ca12db3721的技术博客_51CTO博客icon-default.png?t=N7T8https://blog.51cto.com/u_16213344/7074965

    5、推送镜像到 Dockerhub 仓库中

    1. docker push yxhlhm/csdn:v1.0.0
    2. docker push dockerhub账号/dockerhub仓库名称:标签

    6、推送上传成功可去 hub 上查看 

    7、拉取 hub 镜像 

    docker pull yxhlhm/csdn:v1.0.0

    8、测试运行

    1、可以直接在 Docker desktop 上 run 运行:

    2、服务器拉取运行

    docker pull yxhlhm/csdn:v1.0.0

    简单 run 一下:

    docker run 镜像ID

    MySQL 中:

    其实把它想成 git 就好理解了。

    拜,简单记录一下。

  • 相关阅读:
    RabbitMQ
    【数据结构】树与二叉树
    elementui table超出两行显示...鼠标已入tip显示
    initializer element is not constant
    企业微信开发文档
    【NodeJs-5天学习】第二天篇④ ——项目模块化
    docsify项目部署(华为云+宝塔+centos+docker+nginx)踩坑指南
    Vue中如何完成对axios的二次封装、统一接口管理
    Maven是什么?手把手先创建个Maven项目
    Docker基本管理
  • 原文地址:https://blog.csdn.net/qq_61122628/article/details/133960051
  • 最新文章
  • 【JVM】编译执行与解释执行的区别是什么?JVM 使用哪种方式?
    用 Hashids 优雅解决 C 端自增 ID 暴露问题
    V8引擎 精品漫游指南--Ignition篇(上) 指令 栈帧 槽位 调用约定 内存布局 基础内容
    LLVM Pass快速入门(四):代码插桩
    milkup:桌面端 markdown AI续写和即时渲染
    基于项目工程构建SBOM(软件物料清单)的研究
    鸿蒙应用开发UI基础第二节:鸿蒙应用程序框架核心解析与实操
    .NET 中如何快速实现 List 集合去重?
    扣子Coze实战:从0到1打造抖音+小红书热点监控智能体
    浅谈数据访问层
  • 热门文章
  • 十款代码表白小特效 一个比一个浪漫 赶紧收藏起来吧!!!
    奉劝各位学弟学妹们,该打造你的技术影响力了!
    五年了,我在 CSDN 的两个一百万。
    Java俄罗斯方块,老程序员花了一个周末,连接中学年代!
    面试官都震惊,你这网络基础可以啊!
    你真的会用百度吗?我不信 — 那些不为人知的搜索引擎语法
    心情不好的时候,用 Python 画棵樱花树送给自己吧
    通宵一晚做出来的一款类似CS的第一人称射击游戏Demo!原来做游戏也不是很难,连憨憨学妹都学会了!
    13 万字 C 语言从入门到精通保姆级教程2021 年版
    10行代码集2000张美女图,Python爬虫120例,再上征途
小工具 小游戏
Copyright © 2022 侵权请联系2656653265@qq.com    京ICP备2022015340号-1

京公网安备 11010502049817号