• spark-sql 指定metastore地址


    spark-sql-hive

    spark-sql --database src --hiveconf hive.metastore.uris=thrift://hdp02:2083 -e "select * from src_db2" --driver-java-options '-Djava.net.preferIPv4Stack=true'
    

    spark-sql-jdbc


    1.启动spark-sql

    1. ## --driver-class-path:指定Driver端所需jar  
    2. ## --jars :指定executor所需要jar
    3. spark-sql --driver-class-path /home/dw/hubg/mysql-connector-java-5.1.45-bin.jar \
    4. --jars /home/dw/hubg/mysql-connector-java-5.1.45-bin.jar


    2.执行Spark SQL语句:

    1. spark-sql> CREATE TEMPORARY VIEW spark_mysql USING org.apache.spark.sql.jdbc OPTIONS ( url "jdbc:mysql://xxx.xx.xx.x:xxxx/shurongtest", dbtable "dmpt_serv_object",user 'root',password 'root');
    2. Time taken: 1.504 seconds
    3. 22/08/01 15:21:48 INFO SparkSQLCLIDriver: Time taken: 1.504 seconds

     

    1. spark-sql> select * from spark_mysql;
    2. 1541964275789103105 第一条 4bb8df021931375dc80f056f433ba2b6 2022-06-30 12:59:59 第一条 2022-06-29 22:58:26 admin 2022-06-30 22:41:32 admin
    3. 1542701764438929409 第二条2 57119498e7649c33e2c5e4f56f2a50dc 2022-07-02 12:59:59 第二条 2022-07-01 23:48:57 yanshi_0627 2022-07-19 04:00:44 admin
    4. 1543104243022495745 服务对象1服务对象1服务对象1服务对象1服务对象1服务对象1服务对象1服务对象1服务对象1服务对象1服务对象1服务对象1 9d48f9824f9cb02190f331267966150c 2022-07-03 12:59:59 服务对象1服务对象1服务对象1服务对象1服务对象1服务对象1服务对象1服务对象1服务对象1服务对象1服务对象1服务对象1 2022-07-03 02:28:16 yhx 2022-07-03 02:28:16 yhx
    5. 1544282208364134401 11111111 c334ad6011cf3100a5e61f2832a4ae56 2022-07-06 12:59:59 2022-07-06 08:29:05 admin 2022-07-06 08:29:05 admin
    6. 1546804008885166082 111 a2184be4c6f233380e54ce128dd73bbe 2022-07-13 12:59:59 111 2022-07-13 07:29:49 admin 2022-07-13 07:29:49 admin
    7. Time taken: 12.592 seconds, Fetched 5 row(s)
    8. 22/08/01 15:22:04 INFO SparkSQLCLIDriver: Time taken: 12.592 seconds, Fetched 5 row(s)

  • 相关阅读:
    EGL函数翻译--eglChooseConfig
    uniapp 使用定时器和取消定时器
    关于二叉树的算法(JavaScript)
    Seata四种事务模式AT、TCC、SAGA 、 XA详解
    网络爬虫是什么?怎么学python爬虫
    如何使用 JavaScript/jQuery 为网站创建暗/亮模式?
    【Liunx】配置IP地址与MAC地址绑定
    防抖跟节流
    Linux中scp命令复制文件
    使用Docker安装深度学习环境,pytorch
  • 原文地址:https://blog.csdn.net/java_creatMylief/article/details/126096996