wiki:hbasecommand

Version 12 (modified by liaojiaohe, 14 years ago) (diff)

--

一些不支持的操作

改表名,在0.94.1版中rename_table.rb不能用了,动作比较大  HBASE-643
Will need to change .META., rename fs dir, and edit .tableinfo

常用操作

(1)建立一个表scores,有两个列族grad和courese

hbase(main):001:0> create ‘scores’,'grade’, ‘course’

可以使用list命令来查看当前HBase里有哪些表。使用describe命令来查看表结构。(记得所有的表明、列名都需要加上引号)

(2)按设计的表结构插入值:

put ‘scores’,'Tom’,'grade:’,’5′
put ‘scores’,'Tom’,'course:math’,’97′
put ‘scores’,'Tom’,'course:art’,’87′
put ‘scores’,'Jim’,'grade’,’4′
put ‘scores’,'Jim’,'course:’,’89′
put ‘scores’,'Jim’,'course:’,’80′

这样表结构就起来了,其实比较自由,列族里边可以自由添加子列很方便。如果列族下没有子列,加不加冒号都是可以的。

put命令比较简单,只有这一种用法:

hbase> put ‘t1′, ‘r1′, ‘c1′, ‘value’, ts1

t1指表名,r1指行键名,c1指列名,value指单元格值。ts1指时间戳,一般都省略掉了。

(3)根据键值查询数据

get ‘scores’,'Jim’
get ‘scores’,'Jim’,'grade’

可能你就发现规律了,HBase的shell操作,一个大概顺序就是操作关键词后跟表名,行名,列名这样的一个顺序,如果有其他条件再用花括号加上。 get有用法如下:

hbase> get ‘t1′, ‘r1′
hbase> get ‘t1′, ‘r1′, {TIMERANGE => [ts1, ts2]}
hbase> get ‘t1′, ‘r1′, {COLUMN => ‘c1′}
hbase> get ‘t1′, ‘r1′, {COLUMN => ['c1', 'c2', 'c3']}
hbase> get ‘t1′, ‘r1′, {COLUMN => ‘c1′, TIMESTAMP => ts1}
hbase> get ‘t1′, ‘r1′, {COLUMN => ‘c1′, TIMERANGE => [ts1, ts2], VERSIONS => 4}
hbase> get ‘t1′, ‘r1′, {COLUMN => ‘c1′, TIMESTAMP => ts1, VERSIONS => 4}
hbase> get ‘t1′, ‘r1′, ‘c1′
hbase> get ‘t1′, ‘r1′, ‘c1′, ‘c2′
hbase> get ‘t1′, ‘r1′, ['c1', 'c2']

(4)扫描所有数据

scan ‘scores’

也可以指定一些修饰词:TIMERANGE, FILTER, LIMIT, STARTROW, STOPROW, TIMESTAMP, MAXLENGTH,or COLUMNS。没任何修饰词,就是上边例句,就会显示所有数据行。

例句如下:

hbase> scan ‘.META.’
hbase> scan ‘.META.’, {COLUMNS => ‘info:regioninfo’}
hbase> scan ‘t1′, {COLUMNS => ['c1', 'c2'], LIMIT => 10, STARTROW => ‘xyz’}
hbase> scan ‘t1′, {COLUMNS => ‘c1′, TIMERANGE => [1303668804, 1303668904]}
hbase> scan ‘t1′, {FILTER => “(PrefixFilter (‘row2′) AND (QualifierFilter (>=, ‘binary:xyz’))) AND (TimestampsFilter ( 123, 456))”}
hbase> scan ‘t1′, {FILTER => org.apache.hadoop.hbase.filter.ColumnPaginationFilter.new(1, 0)}

过滤器filter有两种方法指出:

  1. Using a filterString – more information on this is available in the

Filter Language document attached to the  HBASE-4176 JIRA

  1. Using the entire package name of the filter.

还有一个CACHE_BLOCKS修饰词,开关scan的缓存的,默认是开启的(CACHE_BLOCKS=>true),可以选择关闭(CACHE_BLOCKS=>false)。

(5)删除指定数据

delete ‘scores’,'Jim’,'grade’
delete ‘scores’,'Jim’

删除数据命令也没太多变化,只有一个:

hbase> delete ‘t1′, ‘r1′, ‘c1′, ts1

另外有一个deleteall命令,可以进行整行的范围的删除操作,慎用! 如果需要进行全表删除操作,就使用truncate命令,其实没有直接的全表删除命令,这个命令也是disable,drop,create三个命令组合出来的。

(6)修改表结构

disable ‘scores’
alter ‘scores’,NAME=>’info’
enable ‘scores’

alter命令使用如下(如果无法成功的版本,需要先通用表disable): a、改变或添加一个列族:

hbase> alter ‘t1′, NAME => ‘f1′, VERSIONS => 5

b、删除一个列族:

hbase> alter ‘t1′, NAME => ‘f1′, METHOD => ‘delete’
hbase> alter ‘t1′, ‘delete’ => ‘f1′

c、也可以修改表属性如MAX_FILESIZE MEMSTORE_FLUSHSIZE, READONLY,和 DEFERRED_LOG_FLUSH:

hbase> alter ‘t1′, METHOD => ‘table_att’, MAX_FILESIZE => ’134217728′

d、可以添加一个表协同处理器

hbase> alter ‘t1′, METHOD => ‘table_att’, ‘coprocessor’=> ‘hdfs:///foo.jar|com.foo.FooRegionObserver|1001|arg1=1,arg2=2′

一个表上可以配置多个协同处理器,一个序列会自动增长进行标识。加载协同处理器(可以说是过滤程序)需要符合以下规则:

[coprocessor jar file location] | class name | [priority] | [arguments]

e、移除coprocessor如下:

hbase> alter ‘t1′, METHOD => ‘table_att_unset’, NAME => ‘MAX_FILESIZE’
hbase> alter ‘t1′, METHOD => ‘table_att_unset’, NAME => ‘coprocessor$1′

f、可以一次执行多个alter命令:

hbase> alter ‘t1′, {NAME => ‘f1′}, {NAME => ‘f2′, METHOD => ‘delete’}

(7)统计行数:

hbase> count ‘t1′
hbase> count ‘t1′, INTERVAL => 100000
hbase> count ‘t1′, CACHE => 1000
hbase> count ‘t1′, INTERVAL => 10, CACHE => 1000

count一般会比较耗时,使用mapreduce进行统计,统计结果会缓存,默认是10行。统计间隔默认的是1000行(INTERVAL)。

(8)disable 和 enable 操作 很多操作需要先暂停表的可用性,比如上边说的alter操作,删除表也需要这个操作。disable_all和enable_all能够操作更多的表。

(9)表的删除 先停止表的可使用性,然后执行删除命令。

drop ‘t1′

我们自己的一些例子

  • 建表例子,设定版本数和压缩方式,可以每个CF单独设置
create 'user',{NAME=>'base',VERSIONS=>90,COMPRESSION => 'LZO'}
  • 转换表格从没压缩变为有压缩,enable后表格进行Compact操作进行压缩
disable 'ad2_report_base'
alter 'ad2_report_base',NAME=>'ad_launch_report_detail',COMPRESSION => 'SNAPPY'
enable 'ad2_report_base'
  • 建表的时候预分裂
create 'usertable','col1',{SPLITS =>['user1000000000000000000','user2000000000000000000',
'user3000000000000000000','user4000000000000000000','user5000000000000000000',
'user6000000000000000000','user7000000000000000000','user8000000000000000000',
'user9000000000000000000']}
  • 在scan里面使用filter
 scan 't1', {FILTER => "(PrefixFilter ('row2') AND (QualifierFilter (>=, 'binary:xyz'))) AND (TimestampsFilter ( 123, 456))"}
 scan 't1', {FILTER => org.apache.hadoop.hbase.filter.ColumnPaginationFilter.new(1, 0)}
 scan 'ad2_report_base', {LIMIT => 1}

详细用法见 HBASE-4176
 http://blog.csdn.net/liuxiaochen123/article/details/7737718


涉及MapReduce命令

  • 使用mapreduce统计表的数量,速度比count命令快很多
$ bin/hbase org.apache.hadoop.hbase.mapreduce.RowCounter <tablename> [<column1> <column2>...]
  • bulkload入库
$ bin/hbase org.apache.hadoop.hbase.mapreduce.LoadIncrementalHFiles <hdfs://storefileoutput> <tablename>
  • region merge ,这个操作居然要hbase 整个offline ,单是一个表disable都不行,没什么用
$ bin/hbase org.apache.hbase.util.Merge <tablename> <region1> <region2>
$ bin/hbase org.apache.hadoop.hbase.util.Merge mofang_device mofang_device,520f2bbb8a7b34b78f0bc3630efb706e,1346075330294.9a32e9bde282010a0fbe64907f02ed58. mofang_device,64e682c538d8,1344678406004.16dedf10701540b7840fa78a05657d54.