HBase入门问题有哪些-创新互联

本篇内容介绍了“HBase入门问题有哪些”的有关知识，在实际案例的操作过程中，不少人都会遇到这样的困境，接下来就让小编带领大家学习一下如何处理这些情况吧！希望大家仔细阅读，能够学有所成！

　　一些常见的HBase新手问题

　·什么样的数据适合用HBase来存储?　 

　　行由看似”杂乱无章”的列组成，行与行之间也无须遵循一致的定义，而这种定义恰好符合半结构化数据或非结构化数据的特点。本文所要讲述的HBase，就属于该派系的一个典型代表。这些”杂乱无章”的列所构成的多行数据，被称之为一个”稀疏矩阵”，而上图中的每一个”黑块块”，在HBase中称之为一个KeyValue。

　Apache HBase官方给出了这样的定义：

　　Apache HBase? is the hadoop database, a distributed , scalable , big data store .

　　即：Apache HBase是基于Hadoop构建的一个 分布式 的、 可伸缩 的 海量数据存储系统 。

　　HBase常被用来存放一些结构简单，但数据量非常大的数据(通常在TB级别以上)，如历史订单记录，日志数据，监控Metris数据等等，HBase提供了简单的基于Key值的快速查询能力。

　　HBase在国内市场已经取得了非常广泛的应用，在搜索引擎中，也可以看出来，HBase在国内呈现出了逐年上升的势态：

　　(需要说明的一点：HBase中的每一次commit，都已经过社区Commiter成员严格的Review，在commit之前，一个Patch可能已经被修改了几十个版本)

　　令人欣喜的是，国内的开发者也积极参与到了HBase社区贡献中，而且被社区接纳了多名PMC以及Committer成员。

　　本文将以 一条数据在HBase中的“旅程” 为线索，介绍HBase的核心概念与流程，几乎每一部分都可以展开成一篇独立的长文，但本文旨在让读者能够快速的了解HBase的架构轮廓，所以很多特性/流程被被一言带过，但这些特性在社区中往往经历了漫长的开发过程。至于讲什么以及讲到什么程度，本文都做了艰难的取舍，在讲解的过程中，将会穿插解答本文开始所提出的针对初学者的一些常见问题。

　　本文适用于HBase新手，而对于具备一定经验的HBase开发人员，相信本文也可以提供一些有价值的参考。本文内容基于HBase 2.0 beta 2版本，对比于1.0甚至是更早期的版本，2.0出现了大量变化，下面这些问题的答案与部分关键的变化相关(新手可以直接跳过这些问题)：

　　·HBase meta Region在哪里提供服务?

　　·HBase是否可以保证单行操作的原子性?

　　·Region中写WAL与写MemStore的顺序是怎样的?

　　·你是否遇到过Region长时间处于RIT的状态? 你认为旧版本中Assignment Manager的主要问题是什么?

　　·在面对Full GC问题时，你尝试做过哪些优化?

　　·你是否深究过HBase Compaction带来的“写放大”有多严重?

　　·HBase的RPC框架存在什么问题?

　　·导致查询时延毛刺的原因有哪些?

　　本系列文章的 整体行文思路 如下：

　　·介绍HBase数据模型

　　·基于数据模型介绍HBase的适用场景

　　·快速介绍集群关键角色以及集群部署建议

　　·示例数据介绍

　　·写数据流程

　　·读数据流程

　　·数据更新

　　·负载均衡机制

HBase如何存储小文件数据

　　这些内容将会被拆成几篇文章。至于集群服务故障的处理机制，集群工具，周边生态，性能调优以及最佳实践等进阶内容，暂不放在本系列文章范畴内。

约定

　　本文范围内针对一些关键特性/流程，使用了加粗以及加下划线的方式做了强调，如” ProcedureV2 “。这些特性往往在本文中仅仅被粗浅提及，后续计划以独立的文章来介绍这些特性/流程。

　　术语缩写 ：对于一些进程/角色名称，在本文范围内可能通过缩写形式来表述：

　　Region是HBase中负载均衡的基本单元，当一个Region增长到一定大小以后，会自动分裂成两个。

Column Family

　　如果将Region看成是一个表的 横向切割 ，那么，一个Region中的数据列的 纵向切割 ，称之为一个 Column Family 。每一个列，都必须归属于一个Column Family，这个归属关系是在写数据时指定的，而不是建表时预先定义。

　　看的出来，KeyValue是支撑”稀疏矩阵”设计的一个关键点：一些Key相同的任意数量的独立KeyValue就可以构成一行数据。但这种设计带来的一个显而易见的缺点： 每一个KeyValue所携带的自我描述信息，会带来显著的数据膨胀 。

适用场景

　　在介绍完了HBase的数据模型以后，我们可以回答本文一开始的前两个问题：

　　·什么样的数据适合用HBase来存储?

　　·既然HBase也是一个数据库，能否用它将现有系统中昂贵的Oracle替换掉?

　　HBase的数据模型比较简单，数据按照RowKey排序存放，适合HBase存储的数据，可以简单总结如下：

　　·以 实体 为中心的数据

　　·实体可以包括但不限于如下几种：

　　描述这些实体的，可以有基础属性信息、实体关系(图数据)、所发生的事件(如交易记录、车辆轨迹点)等等。

　　·自然人/账户/手机号/车辆相关数据

　　·用户画像数据(含标签类数据)

　　·图数据(关系类数据)

　　·以 事件 为中心的数据

　　·监控数据

　　·时序数据

　　·实时位置类数据

　　·消息/日志类数据

　　上面所描述的这些数据，有的是结构化数据，有的是半结构化或非结构化数据。HBase的“稀疏矩阵”设计，使其应对非结构化数据存储时能够得心应手，但在我们的实际用户场景中，结构化数据存储依然占据了比较重的比例。由于HBase仅提供了基于RowKey的单维度索引能力，在应对一些具体的场景时，依然还需要基于HBase之上构建一些专业的能力，如：

　　·OpenTSDB 时序数据存储，提供基于Metrics+时间+标签的一些组合维度查询与聚合能力

　　·GeoMesa 时空数据存储，提供基于时间+空间范围的索引能力

　　·JanusGraph 图数据存储，提供基于属性、关系的图索引能力

　　HBase擅长于存储结构简单的海量数据但索引能力有限，而Oracle等传统关系型数据库(RDBMS)能够提供丰富的查询能力，但却疲于应对TB级别的海量数据存储，HBase对传统的RDBMS并不是取代关系，而是一种补充。

HBase与HDFS

　　我们都知道HBase的数据是存储于HDFS里面的，相信大家也都有这么的认知：

　　·HBase是一个 分布式数据库 ，HDFS是一个 分布式文件系统

　　理解了这一点，我们先来粗略回答本文已开始提出的其中两个问题：

　　·HBase中的数据为何不直接存放于HDFS之上?

　　HBase中存储的海量数据记录，通常在几百Bytes到KB级别，如果将这些数据直接存储于HDFS之上，会导致大量的小文件产生，为HDFS的元数据管理节点(NameNode)带来沉重的压力。

　　·文件能否直接存储于HBase里面?

　　如果是几MB的文件，其实也可以直接存储于HBase里面，我们暂且将这类文件称之为小文件，HBase提供了一个名为MOB的特性来应对这类小文件的存储。但如果是更大的文件，强烈不建议用HBase来存储，关于这里更多的原因，希望你在详细读完本文所有内容之后能够自己解答。

　集群角色

　　关于集群环境，你可以使用国内外大数据厂商的平台，如Cloudera，Hontonworks以及国内的华为，都发行了自己的企业版大数据平台，另外，华为云、阿里云中也均推出了全托管式的HBase服务。

　　我们假设集群环境已经Ready了，先来看一下集群中的 关键角色 ：

管理节点独立于数据节点部署

　　如果是基于物理机部署，每一台物理机节点上可以设置几个RegionServers/DataNodes来提升资源使用率。

　　也可以选择基于容器来部署，如在HBaseCon Asia 2017大会知乎的演讲主题中，就提到了知乎基于Kubernetes部署HBase服务的实践。

　　对于公有云HBase服务而言，为了降低总体拥有成本( TCO )，通常选择” 计算与存储物理分离 “的方式，从架构上来说，可能导致平均时延略有下降，但可以借助于共享存储底层的IO优化来做一些”弥补”。

　　HBase集群中的RegionServers可以按逻辑划分为多个Groups，一个表可以与一个指定的Group绑定，可以将RegionServer Group理解成将一个大的集群划分成了多个逻辑子集群，借此可以实现多租户间的隔离，这就是HBase中的 RegionServer Group 特性。

　示例数据

　　以我们日常生活都熟悉的手机通话记录的存储为例，先简单给出示例数据的字段定义：

　　在本文大部分内容中所涉及的一条数据，是上面加粗的最后一行” MSISDN1 “为” 13400006666 “这行记录。

　　在本系列文章的流程图中，我们将会使用一个 红色的五角星 来表示该数据所在的位置。

　　写数据之前：建立连接

Login

　　在启用了安全特性的前提下，Login阶段是为了完成 用户认证 (确定用户的合法身份)，这是后续一切 安全访问控制 的基础。

　　当前Hadoop/HBase仅支持基于Kerberos的用户认证，ZooKeeper除了Kerberos认证，还能支持简单的用户名/密码认证，但都基于静态的配置，无法动态新增用户。如果要支持其它第三方认证，需要对现有的安全框架做出比较大的改动。

　创建Connection

　　Connection可以理解为一个HBase集群连接的抽象，建议使用ConnectionFactory提供的工具方法来创建。因为HBase当前提供了两种连接模式：同步连接，异步连接，这两种连接模式下所创建的Connection也是不同的。我们给出ConnectionFactory中关于获取这两种连接的典型方法定义：

　预设合理的数据分片 – Region

　　分片数量会给读写吞吐量带来直接的影响，因此，建表时通常建议由用户主动指定划分 Region分割点 ，来设定Region的数量。

　　HBase中数据是按照RowKey的字典顺序排列的，为了能够划分出合理的Region分割点，需要依据如下几点信息：

　　·Key的组成结构

　　·Key的数据分布预估

　　如果不能基于Key的组成结构来预估数据分布的话，可能会导致数据在Region间的分布不均匀

　　·读写并发度需求

　　·依据读写并发度需求，设置合理的Region数量

　　·为表定义合理的Schema

　　既然HBase号称”schema-less”的数据存储系统，那何来的是schema? 的确，在数据库范式的支持上，HBase非常弱，这里的Schema，主要指如下一些信息的设置：

　　·NameSpace设置

　　·Column Family的数量

　　每一个Column Family中所关联的一些 关键配置 ：

　　·Compression

　　HBase当前可以支持Snappy，GZ，LZO，LZ4，Bzip2以及ZSTD压缩算法

　　·DataBlock Encoding

　　HBase针对自身的特殊数据模型所做的一种压缩编码

　　·BloomFilter

　　可用来协助快速判断一条记录是否存在

　　·TTL

　　指定数据的过期时间

　　·StoragePolicy

　　指定Column Family的存储策略，可选配置有：

　　“ALL_SSD”，”ONE_SSD”，”HOT”，”WARM”，”COLD”，”LAZY_PERSIST”

　　HBase中并不需要预先设置Column定义信息，这就是HBase schema-less设计的核心。

Client发送建表请求到Master

　　建表的请求是通过RPC的方式由Client发送到Master:

　　·RPC接口基于Protocol Buffer定义

　　·建表相关的描述参数，也由Protocol Buffer进行定义及序列化

　　Client端侧调用了Master服务的什么接口，参数是什么，这些信息都被通过RPC通信传输到Master侧，Master再依据这些接口\参数描述信息决定要执行的操作。2.0版本中，HBase目前已经支持基于Netty的 异步RPC框架 。

关于HBase RPC框架

　　早期的HBase RPC框架，完全借鉴了Hadoop中的实现，那时，Netty项目尚不盛行。

　　Master侧接收到Client侧的建表请求以后，一些主要操作包括：

　　生成每一个Region的描述信息对象HRegionInfo，这些描述信息包括：Region ID, Region名称，Key范围，表名称等信息

　　生成每一个Region在HDFS中的文件目录

　　将HRegionInfo信息写入到记录元数据的hbase:meta表中。

　说明

　　meta表位于名为”hbase”的namespace中，因此，它的全称为”hbase:meta”。

　　但在本系列文章范畴内，常将其缩写为”meta”。

　　整个过程中，新表的状态也是记录在hbase:meta表中的，而不用再存储在ZooKeeper中。

　　如果建表执行了一半，Master进程挂掉了，如何处理?这里是由HBase自身提供的一个名为 Procedure(V2) 的框架来保障操作的事务性的，备Master接管服务以后，将会继续完成整个建表操作。

　　一个被创建成功的表，还可以被执行如下操作：

　　Disable 将所有的Region下线，该表暂停读写服务

　　Enable 将一个Disable过的表重新Enable，也就是上线所有的Region来正常提供读写服务

　　Alter 更改表或列族的描述信息

　　Master分配Regions到各个RegionServers

　　新创建的所有的Regions，通过 AssignmentManager 将这些Region按照轮询(Round-Robin)的方式分配到每一个RegionServer中，具体的分配计划是由 LoadBalancer 来提供的。

　　AssignmentManager负责所有Regions的分配/迁移操作，Master中有一个定时运行的线程，来检查集群中的Regions在各个RegionServer之间的负载是否是均衡的，如果不均衡，则通过LoadBalancer生成相应的Region迁移计划，HBase中支持多种负载均衡算法，有最简单的仅考虑各RegionServer上的Regions数目的负载均衡算法，有基于迁移代价的负载均衡算法，也有数据本地化率优先的负载均衡算法，因为这一部分已经提供了插件化机制，用户也可以自定义负载均衡算法。

“HBase入门问题有哪些”的内容就介绍到这里了，感谢大家的阅读。如果想了解更多行业相关的知识可以关注创新互联-成都网站建设公司网站，小编将为大家输出更多高质量的实用文章！