报表连hive时数据量比较大如何分页查询
小编给大家分享一下报表连hive时数据量比较大如何分页查询,希望大家阅读完这篇文章之后都有所收获,下面让我们一起去探讨吧!
创新互联成立10年来,这条路我们正越走越好,积累了技术与客户资源,形成了良好的口碑。为客户提供网站设计、成都做网站、网站策划、网页设计、国际域名空间、网络营销、VI设计、网站改版、漏洞修补等服务。网站是否美观、功能强大、用户体验好、性价比高、打开快等等,这些对于网站建设都非常重要,创新互联通过对建站技术性的掌握、对创意设计的研究为客户提供一站式互联网解决方案,携手广大客户,共同发展进步。
Hive 提供了类似 Oracle 的 rownum 机制,类似这样(效率比较差):
select * from (select row_number() over (order by create_time desc) as rownum,u.* from user u) mm where mm.rownum between 10 and 15;
还有一种办法,如果表里有唯一标识字段也可以借助这个字段和 limit 实现。比如:
获取第一页数据:
注:同时需要记录这 10 条中最大的 id 为 preId,作为下一页的条件。
select * from table order by id asc limit 10;
获取第二页数据:
注:同时保存数据中最大的 id 替换 preId。
select * from table where id >preId order by id asc limit 10;
对于数据库分页, 这里曾经分析过存在的问题
大清单报表应当怎么做? 也给出了改善的思路,可以参考:
把取数和呈现做现两个异步线程,取数线程发出 SQL 后就不断取出数据后缓存到本地存储中,呈现线程根据页数计算出行数到本地缓存中去获取数据显示。这样,只要已经取过的数据就能快速呈现,不会有等待感,还没取到的数据需要等待一下也是正常可理解的;而取数线程只涉及一句 SQL,在数据库中是同一个事务,也不会有不一致的问题。这样,两个问题都能得到解决。不过这需要设计一种可以按行号随机访问记录的存储格式,不然要靠遍历把记录数出来,那反应仍然会很迟钝。
画个图感受感受:
②和③分别是两个线程,一个负责取数缓存,一个负责读缓存做报表呈现
看起来有点复杂,可直接用做好的工具:
海量清单与分组报表的实现
还能导出 Excel,也能打印。
看完了这篇文章,相信你对“报表连hive时数据量比较大如何分页查询”有了一定的了解,如果想了解更多相关知识,欢迎关注创新互联行业资讯频道,感谢各位的阅读!
本文标题:报表连hive时数据量比较大如何分页查询
标题URL:http://azwzsj.com/article/gcosgg.html