博客
关于我
hive窗口函数练习题
阅读量:615 次
发布时间:2019-03-13

本文共 2365 字,大约阅读时间需要 7 分钟。

Hive 实战练习:从基础到进阶

作为一名 Hive 开发人员,理解并掌握不同场景下的 SQL 查询技巧至关重要。本文将通过三个不同的练习,帮助读者从基础到进阶,以实际案例的形式,逐步提升在 Hive 中的操作能力。

第一套练习:用户行为分析

1. 每天的用户总数统计

为了满足每日用户总数统计的需求,我们可以执行以下 Hive 查询:

SELECT     logday,    COUNT(DISTINCT userid) AS day_totalFROM     test_windowGROUP BY     logday;

2. 大于80分用户的每日累计人数

我们需要计算从第一天到现在,每天第一个大于80分用户的累计人数。此时,HIVE 中没有提供截止时间,默认是到当前日期。因此,查询如下:

WITH   current_date AS ('SELECT CURRENT_TIMESTAMP()')SELECT     logday,    COUNT(*) AS totalFROM     test_windowWHERE     score > 80ORDER BY     logdayWINDOW     partitions by (logday)    ORDER BY         logday    BEWEEN UNBOUNDED PRECEDING AND CURRENT ROWAS OF    current_date;

3. 每位用户的分数超过80分的天数统计

要计算每位用户的分数大于80分的天数,可以使用 partitions by userid 注脚:

WITH   current_date AS ('SELECT CURRENT_TIMESTAMP()')SELECT     userid,    COUNT(*) AS total_daysFROM     test_windowWHERE     score > 80GROUP BY     useridWITH     partitions by (logday)    ORDER BY         logday    BEWEEN UNBOUNDED PRECEDING AND CURRENT ROWAS OF    current_date;

第二套练习:业务数据分析

要求 1: 2017年4月购买的顾客及总人数

SELECT     name,    COUNT(*) over () AS month_usersFROM     businessWHERE     SUBSTRING(orderdate, 1, 7) = '2017-04';

要求 2: 顾客的每日购买额总额

SELECT     orderdate,    sum(cost) over () AS daily_totalFROM     businessGROUP BY     orderdate;

要求 3: 顾客的总购买金额到当前为止的累计

WITH   current_date AS ('SELECT CURRENT_TIMESTAMP()')SELECT     name,    sum(cost) over (DISTRIBUTE BY name) AS total_amountFROM     businessWINDOW     partitions by(name)    ORDER BY         orderdate    BEWEEN UNBOUNDED PRECEDING AND CURRENT ROWAS OF    current_date;

要求 4: 顾客上次购买的时间(使用 lag 函数)

WITH   current_date AS ('SELECT CURRENT_TIMESTAMP()')SELECT     name,    lag(orderdate, 1, '1970-01-01') over (PARTITION BY name ORDER BY orderdate) AS last_purchase_dateFROM     business;

第三套练习:成绩排名

要求 1: 不同 rank 函数实现的成绩排名

行号方法:使用 row_number()

SELECT     *,    row_number() over (PARTITION BY subject ORDER BY score DESC) AS row_num,    rank() over (PARTITION BY subject ORDER BY score DESC) AS rank,    dense_rank() over (PARTITION BY subject ORDER BY score DESC) AS dense_rankFROM     score;

要求 2: 每门学科排名前3的学生

WITH   ranked_data AS (    SELECT         *,        row_number() over (PARTITION BY subject ORDER BY score DESC) AS rmp    FROM         score  )SELECT     * FROM     ranked_data     WHERE         rmp <= 3;

通过以上实例,读者可以从基本的聚合操作到高级的窗口函数,逐步掌握 Hive 中的复杂查询。这不仅是技术的学习,更是提升解决实际问题能力的基础。

转载地址:http://xnpaz.baihongyu.com/

你可能感兴趣的文章
NIFI集群_内存溢出_CPU占用100%修复_GC overhead limit exceeded_NIFI: out of memory error ---大数据之Nifi工作笔记0017
查看>>
NIH发布包含10600张CT图像数据库 为AI算法测试铺路
查看>>
NIO ByteBuffer实现原理
查看>>
Nio ByteBuffer组件读写指针切换原理与常用方法
查看>>
NIO Selector实现原理
查看>>
nio 中channel和buffer的基本使用
查看>>
NIO基于UDP协议的网络编程
查看>>
NISP一级,NISP二级报考说明,零基础入门到精通,收藏这篇就够了
查看>>
Nitrux 3.8 发布!性能全面提升,带来非凡体验
查看>>
NI笔试——大数加法
查看>>
NLog 自定义字段 写入 oracle
查看>>
NLP 基于kashgari和BERT实现中文命名实体识别(NER)
查看>>
NLP 项目:维基百科文章爬虫和分类【01】 - 语料库阅读器
查看>>
NLP_什么是统计语言模型_条件概率的链式法则_n元统计语言模型_马尔科夫链_数据稀疏(出现了词库中没有的词)_统计语言模型的平滑策略---人工智能工作笔记0035
查看>>
NLP学习笔记:使用 Python 进行NLTK
查看>>
NLP问答系统:使用 Deepset SQUAD 和 SQuAD v2 度量评估
查看>>
NLP:使用 SciKit Learn 的文本矢量化方法
查看>>
Nmap扫描教程之Nmap基础知识
查看>>
Nmap端口扫描工具Windows安装和命令大全(非常详细)零基础入门到精通,收藏这篇就够了
查看>>
NMAP网络扫描工具的安装与使用
查看>>