大数据平台搭建的层次有哪些

大数据平台搭建的层次有哪些，针对这个问题，这篇文章详细介绍了相对应的分析和解答，希望可以帮助更多想解决这个问题的小伙伴找到更简单易行的方法。

创新互联专注于灵璧企业网站建设,响应式网站建设,购物商城网站建设。灵璧网站建设公司,为灵璧等地区提供建站服务。全流程定制设计，专业设计，全程项目跟踪，创新互联专业和态度为您提供的服务

大数据分析处理平台就是整合当前主流的各种具有不同侧重点的大数据处理分析框架和工具，实现对数据的挖掘和分析，大数据平台是随着大数据技术的发展而逐渐被企业所关注的一个技术，而今天我们就一起来了解一下，大数据平台搭建都有哪些架构层次。

1、数据传输层

Sqoop：支持RDBMS和HDFS之间的双向数据迁移，通常用于抽取业务数据库(比如MySQL、SQLServer、Oracle)的数据到HDFS.

Cannal：阿里开源的数据同步工具，通过监听MySQL binlog，实现增量数据订阅和近实时同步。

Flume：用于海量日志采集、聚合和传输，将产生的数据保存到HDFS或者Hbase中。

Flume+Kafka：满足实时流式日志的处理，后面再通过Spark Streaming等流式处理技术，可完成日志的实时解析和应用。

2、数据存储层

HDFS：分布式文件系统，它是分布式计算中数据存储管理的基础，是Google GFS的开源实现，可部署在廉价商用机器上，具备高容错、高吞吐和高扩展性。

Hbase：分布式的、面向列的NOSQL KV数据库，它是Google BigTable的开源实现，利用HDFS作为其文件存储系统，适合大数据的实时查询(比如：IM场景)。

Kudu：折中了HDFS和Hbase的分布式数据库，既支持随机读写、又支持OLAP分析的大数据存储引擎(解决Hbase不适合批量分析的痛点)。

3、资源管理层

Yarn：Hadoop的资源管理器，负责Hadoop集群资源的统一管理和调度，为运算程序(MR任务)提供服务器运算资源(CPU、内存)，能支持MR、Spark、Flink等多种框架。

Kubernates：由Google开源，一种云平台的容器化编排引擎，提供应用的容器化管理，可在不同云、不同版本操作系统之间进行迁移。目前，Spark、Storm已经支持K8S。

4、数据计算层

大数据计算引擎决定了计算效率，是大数据平台最核心的部分，它大致了经历以下4代的发展，又可以分成离线计算框架和实时计算框架。

5、离线计算框架

MapReduce：面向大数据并行处理的计算模型、框架和平台(将计算向数据靠拢、减少数据传输，这个设计思路非常巧妙)。

Hive：一个数据仓库工具，能管理HDFS存储的数据，可以将结构化的数据文件映射为一张数据库表，并提供完整的SQL查询功能(实际运行时，是将Hive SQL翻译成了MapReduce任务)，适用离线非实时数据分析。

Spark sql：引入RDD(弹性分布式数据集)这一特殊的数据结构，将SQL转换成RDD的计算，并将计算的中间结果放在内存中，因此相对于Hive性能更高，适用实时性要求较高的数据分析场景。

6、实时计算框架

Spark Streaming：实时流数据处理框架(按时间片分成小批次，s级延迟)，可以接收Kafka、Flume、HDFS等数据源的实时输入数据，经过处理后，将结果保存在HDFS、RDBMS、Hbase、redis、Dashboard等地方。

Storm：实时流数据处理框架，真正的流式处理，每条数据都会触发计算，低延迟(ms级延迟)。

Flink：更高级的实时流数据处理框架，相比Storm，延迟比storm低，而且吞吐量更高，另外支持乱序和调整延迟时间。

7、多维分析层

Kylin：分布式分析引擎，能在亚秒内查询巨大的Hive表，通过预计算(用空间换时间)将多维组合计算好的结果保存成Cube存储在Hbase中，用户执行SQL查询时，将SQL转换成对Cube查询，具有快速查询和高并发能力。

Druid：适用于实时数据分析的高容错、高性能开源分布式系统，可实现在秒级以内对十亿行级别的表进行任意的聚合分析。

关于大数据平台搭建的层次有哪些问题的解答就分享到这里了，希望以上内容可以对大家有一定的帮助，如果你还有很多疑惑没有解开，可以关注创新互联行业资讯频道了解更多相关知识。