分享

Hbase 统计表行数的3种方式总结

 想不出一个昵称 2016-12-08

zz:http://blog.csdn.net/chaolovejia/article/details/46328983

有些时候需要我们去统计某一个hbase表的行数,由于hbase本身不支持SQL语言,只能通过其他方式实现。可以通过一下几种方式实现hbase表的行数统计工作:

1.count命令

最直接的方式是在hbase shell中执行count的命令可以统计行数。

[html] view plain copy
  1. hbase> count ‘t1′  
  2. hbase> count ‘t1′, INTERVAL => 100000  
  3. hbase> count ‘t1′, CACHE => 1000  
  4. hbase> count ‘t1′, INTERVAL => 10, CACHE => 1000  
其中,INTERVAL为统计的行数间隔,默认为1000,CACHE为统计的数据缓存。这种方式效率很低,如果表行数很大的话不建议采用这种方式。
2. 调用Mapreduce
[plain] view plain copy
  1. $HBASE_HOME/bin/hbase   org.apache.hadoop.hbase.mapreduce.RowCounter ‘tablename’  
这种方式效率比上一种要搞很多,调用的hbase jar中自带的统计行数的类。

3.hive over hbase
如果已经见了hive和hbase的关联表的话,可以直接在hive中执行sql语句统计hbase表的行数。
hive over hbase 表的建表语句为:
/*创建hive与hbase的关联表*/
  1. CREATE TABLE hive_hbase_1(key INT,value STRING)  
  2. STORED BY 'org.apache.hadoop.hive.hbase.HBaseStorageHandler'  
  3. WITH SERDEPROPERTIES ('hbase.columns.mapping'=':key,cf:val')  
  4. TBLPROPERTIES('hbase.table.name'='t_hive','hbase.table.default.storage.type'='binary');  
/*hive关联已经存在的hbase*/
  1. CREATE EXTERNAL TABLE hive_hbase_1(key INT,value STRING)  
  2. STORED BY 'org.apache.hadoop.hive.hbase.HBaseStorageHandler'  
  3. WITH SERDEPROPERTIES ('hbase.columns.mapping'=':key,cf:val')  
  4. TBLPROPERTIES('hbase.table.name'='t_hive','hbase.table.default.storage.type'='binary');  

    本站是提供个人知识管理的网络存储空间,所有内容均由用户发布,不代表本站观点。请注意甄别内容中的联系方式、诱导购买等信息,谨防诈骗。如发现有害或侵权内容,请点击一键举报。
    转藏 分享 献花(0

    0条评论

    发表

    请遵守用户 评论公约

    类似文章 更多