• Hive特殊函数的使用


    with as

    在Hive中,WITH AS是一种子查询的用法,用于在查询的开头定义一个临时表达式。它的语法结构如下:

    WITH [表达式名称] AS (
    	子查询表达式
    )
    
    • 1
    • 2
    • 3

    在这个结构中,[表达式名称]是用于引用临时表达式结果的名称,而子查询表达式则是一个有效的SELECT语句,它会返回结果集作为临时表。

    案例(有一个名为orders的表,包含订单号和订单金额两列。我们可以使用WITH AS来创建一个临时表达式,计算每个订单的总金额,然后在后续的查询中使用它):

    WITH order_totals AS (
    	SELECT order_id, SUM(order_amount) AS total_amount
    	FROM orders
    	GROUP BY order_id
    )
    SELECT order_id, total_amount
    FROM order_totals
    WHERE total_amount > 1000;
    
    • 1
    • 2
    • 3
    • 4
    • 5
    • 6
    • 7
    • 8

    在上述示例中,我们首先定义了一个名为order_totals的临时表达式,它使用了一个子查询来计算每个订单的总金额。然后,我们在后续的SELECT语句中使用order_totals来获取总金额大于1000的订单。这样,我们可以在一条查询语句中定义和引用临时表达式,使查询更简洁和易于理解。

    当需要多个子查询语句时,每个语句之间可以使用逗号相连接,示例如下:

    with a as (select name,age,sno from table_A),
    	 b as (select * from a where age >= 12 and age <=22),
    	 c as (select * from b where sno = "0001")
    select * from c where name = "zs"
    
    • 1
    • 2
    • 3
    • 4

    cast

    在Hive中,CAST是一种类型转换函数,用于将一个表达式或列转换为指定的数据类型。它的语法如下:

    CAST(表达式 AS 数据类型)
    
    • 1

    在这个结构中,表达式可以是一个具体的值、列名或者是一个函数的返回值。数据类型可以是Hive所支持的任何有效数据类型,如INT、STRING、BOOLEAN等。

    案例(有一个名为orders的表,包含了两个列order_id和order_amount,其中order_amount的数据类型为字符串。我们可以使用CAST函数将order_amount转换为浮点数类型,然后进行求和的计算):

    SELECT SUM(CAST(order_amount AS FLOAT))
    FROM orders;
    
    • 1
    • 2

    在上述示例中,我们通过CAST函数将order_amount列从字符串类型转换为浮点数类型(FLOAT),然后使用SUM函数计算转换后的列的总和。

    需要注意的是,在进行类型转换时,要确保目标数据类型与源数据类型是兼容的,否则转换可能会失败或引发错误。另外,强制类型转换也可能会导致数据精度丢失或截断,所以要根据具体情况谨慎使用。

    get_json_object

    用于从一个JSON字符串中提取特定的JSON对象的值。它将一个JSON字符串和一个JSON路径作为输入,并返回与路径对应的JSON对象的值。JSON路径可以用来指定想要提取的JSON对象的位置,可以是对象的字段名、数组的索引或通配符。通过使用该函数,可以检索和操作JSON数据的特定部分,方便进行数据提取和分析。

    get_json_object(string json_string,string path)
    
    • 1

    案例(现有一个json对象为log_information,里面包含有time,name,age,birth等字段):

    get_json_object(log_information,'$.time') as time
    
    • 1

    unix_timestamp

    unix_timestamp是用来计算时间戳的。时间戳是一个表示特定时间的数字,通常是自1970年1月1日以来经过的秒数。unix_timestamp函数可以将指定的日期和时间转换为对应的时间戳。

    unix_timestamp(time,"yyyyMMddHHmmss") as timestamp
    
    • 1

    from_unixtime

    from_unixtime函数是用来将时间戳转换为对应的日期和时间的。它接受一个时间戳作为参数,并将其转换为具有特定格式的日期和时间字符串。这个函数可用于将unix时间戳转换为可读的日期和时间格式,以便更好地理解和处理时间数据。

    from_unixtime(timestamp,"yyyy-MM-dd HH:mm:ss") as time
    
    • 1

    近期使用到的一些函数去处理一些数据,后续用到新的函数或SQL还会继续更新!!!

  • 相关阅读:
    最直观的就是通过 performance 与 lighthouse 来评判
    Scala (一) --------- Scala 入门
    pandas学习笔记
    阿里巴巴面试题- - -Java体系最新面试题(十)
    js 操作符
    session.upload_progress进行文件包含和反序列化学习
    Codeforces Round #835 (Div. 4) D. Challenging Valleys
    多线程设计模式-全面详解(学习总结---从入门到深化)
    React之Redux详解
    MySQL 排序
  • 原文地址:https://blog.csdn.net/weixin_57367513/article/details/134017967