码农知识堂 - 1000bd
  •   Python
  •   PHP
  •   JS/TS
  •   JAVA
  •   C/C++
  •   C#
  •   GO
  •   Kotlin
  •   Swift
  • Spark Windos模式


    由于在学习时,每次都需要启动虚拟机,启动集群,这是一个比较繁琐的过程,并且会占大量的系统资源,导致系统执行变慢,不仅仅影响学习效果,也影响学习进度,Spark 非常暖心地提供了可以在 windows 系统下启动本地集群的方式,这样,在不使用虚拟机的情况下,也能学习 Spark 的基本使用

    目录

    • 1 解压缩文件
    • 2 准备数据
    • 3 编写代码并且打包
    • 4 命令行提交应用
    • 5 查看结果

    1 解压缩文件

    将文件 spark-3.0.0-bin-hadoop3.2.tgz 解压缩到无中文无空格的路径中

    链接:https://pan.baidu.com/s/1Vi9bgI1KXxoI1zYUGybo5w 
    提取码:s6w0 
    
    • 1
    • 2

    2 准备数据

    在 bin 目录中创建 input 目录,并添加 wc.txt 文件,文件中添加如下单词

    java hello
    java a a a aa
    
    • 1
    • 2

    在这里插入图片描述

    3 编写代码并且打包

    package SparkCore.Demand
    
    import org.apache.spark.rdd.RDD
    import org.apache.spark.{SparkConf, SparkContext}
    
    object WordCount {
    
      def main(args: Array[String]): Unit = {
        val sc = new SparkContext(new SparkConf().setAppName("").setMaster("local[*]"))
        val rdd: RDD[String] = sc.textFile("D:\\Spark-Windows\\bin\\input").flatMap(_.split(" "))
        rdd.map((_, 1)).reduceByKey(_ + _).collect().foreach(println)
        }}
    
    • 1
    • 2
    • 3
    • 4
    • 5
    • 6
    • 7
    • 8
    • 9
    • 10
    • 11
    • 12

    4 命令行提交应用

    spark-submit --class SparkCore.Demand.WordCount  --master local[*]  Spark-1.0-SNAPSHOT.jar
    
    • 1

    5 查看结果

    在这里插入图片描述

  • 相关阅读:
    升级Jenkins从2.263.3到2.440.2
    [译]这几个CSS小技巧,你知道吗?
    最新文章合集
    【Qt控件之QTabBar】介绍及使用
    运动蓝牙耳机哪个品牌好?推荐五款好用的运动耳机
    cocos creater 2.4 Error Bundle resources doesn‘t contain
    代码研发规范考试
    Qgis 开发初级 《ToolBox》
    设计模式之组合模式与观察者模式应用例题
    平安校园智慧安防监控摄像头的布控建议
  • 原文地址:https://blog.csdn.net/qq_43494013/article/details/126194833
  • 最新文章
  • 攻防演习之三天拿下官网站群
    数据安全治理学习——前期安全规划和安全管理体系建设
    企业安全 | 企业内一次钓鱼演练准备过程
    内网渗透测试 | Kerberos协议及其部分攻击手法
    0day的产生 | 不懂代码的"代码审计"
    安装scrcpy-client模块av模块异常,环境问题解决方案
    leetcode hot100【LeetCode 279. 完全平方数】java实现
    OpenWrt下安装Mosquitto
    AnatoMask论文汇总
    【AI日记】24.11.01 LangChain、openai api和github copilot
  • 热门文章
  • 十款代码表白小特效 一个比一个浪漫 赶紧收藏起来吧!!!
    奉劝各位学弟学妹们,该打造你的技术影响力了!
    五年了,我在 CSDN 的两个一百万。
    Java俄罗斯方块,老程序员花了一个周末,连接中学年代!
    面试官都震惊,你这网络基础可以啊!
    你真的会用百度吗?我不信 — 那些不为人知的搜索引擎语法
    心情不好的时候,用 Python 画棵樱花树送给自己吧
    通宵一晚做出来的一款类似CS的第一人称射击游戏Demo!原来做游戏也不是很难,连憨憨学妹都学会了!
    13 万字 C 语言从入门到精通保姆级教程2021 年版
    10行代码集2000张美女图,Python爬虫120例,再上征途
Copyright © 2022 侵权请联系2656653265@qq.com    京ICP备2022015340号-1
正则表达式工具 cron表达式工具 密码生成工具

京公网安备 11010502049817号