region中存储的是一张表的数据，当region中的数据条数过多的时候，会直接影响查询效率. 当region过大的时候，hbase会将region拆分为两个region , 这也是Hbase的一个优点。 HBase的region split策略一共有以下6种： 1、ConstantSizeRegionSplitPolicy 0.94版本前，HBase region的默认切分策略 当region中最大的store大小超过某个阈值(hbase.hregion.max.filesize=... ... [查看更多]
Views: 28
RowKey设计三原则 1、长度原则 rowkey是一个二进制码流，可以是任意字符串，最大长度64kb，实际应用中一般为10-100bytes，以byte[]形式保存，一般设计成定长。 建议尽可能短；但是也不能太短，否则rowkey前缀重复的概率增大 设计过长会降低memstore内存的利用率和HFile存储数据的效率。 2、散列原则 建议将rowkey的高位作为散列字段，这样将提高数据均衡分布在每个RegionServer，以实现负载均衡的几率。 如果没有散列字段，首字段直接... ... [查看更多]
Views: 4
Hive的安装部署 先决条件 搭建好三节点Hadoop集群； hadoop100上先安装好MySQL服务； 准备安装包 下载hive安装包 apache-hive-3.1.2-bin.tar.gz 规划安装目录 /opt/pkg/hive 上传安装包到hadoop100服务器中 解压 解压安装包到指定的规划目录/opt/pkg/ 修改配置文件 进入hive安装目录 重新命名hive目录 修改/opt/pkg//conf目录下的hive-site.xml, 默认... ... [查看更多]
Views: 15
HBase表中的数据最终都是存储在HDFS上，HBase天生的支持MR的操作，我们可以通过MR直接处理HBase表中的数据，并且MR可以将处理后的结果直接存储到HBase表中。 参考: http://hbase.apache.org/book.html#mapreduce 实战一：HBase表到HBase表 需求：读取HBase当中myuser这张表的f1:name、f1:age数据，将数据写入到另外一张myuser2表的f1列族里面去 第一步：创建myuser2这张hbase表... ... [查看更多]
Views: 12
Region的合并不是为了性能, 而是出于便于运维的目的 . 比如删除了大量的数据 ,这个时候每个Region都变得很小 ,存储多个Region就浪费了 ,这个时候可以把Region合并起来，进而可以减少一些Region服务器节点。 下面来看一下如何进行region合并： 通过Merge类冷合并Region 执行冷合并前，需要先关闭hbase集群 创建一张hbase表： 查看表region 需求： 通过查看UI界面，需要把test表中的前2个region数据进行合并，分别是： ... ... [查看更多]
Views: 13
