nosql数据仓储,nosql是分布式数据库吗

什么是数据库

数据库是存放数据的仓库。它的存储空间很大，可以存放百万条、千万条、上亿条数据。但是数据库并不是随意地将数据进行存放，是有一定的规则的，否则查询的效率会很低。当今世界是一个充满着数据的互联网世界，充斥着大量的数据。即这个互联网世界就是数据世界。数据的来源有很多，比如出行记录、消费记录、浏览的网页、发送的消息等等。除了文本类型的数据，图像、音乐、声音都是数据。

专注于为中小企业提供成都做网站、成都网站设计服务,电脑端+手机端+微信端的三站合一,更高效的管理,为中小企业金堂县免费做网站提供优质的服务。我们立足成都，凝聚了一批互联网行业人才，有力地推动了上1000家企业的稳健成长，帮助中小企业通过网站建设实现规模扩充和转变。

数据库是一个按数据结构来存储和管理数据的计算机软件系统。数据库的概念实际包括两层意思：

（1）数据库是一个实体，它是能够合理保管数据的“仓库”，用户在该“仓库”中存放要管理的事务数据，“数据”和“库”两个概念结合成为数据库。

（2）数据库是数据管理的新方法和技术，它能更合适的组织数据、更方便的维护数据、更严密的控制数据和更有效的利用数据。

发展现状

在数据库的发展历史上，数据库先后经历了层次数据库、网状数据库和关系数据库等各个阶段的发展，数据库技术在各个方面的快速的发展。特别是关系型数据库已经成为目前数据库产品中最重要的一员，80年代以来， 几乎所有的数据库厂商新出的数据库产品都支持关系型数据库，即使一些非关系数据库产品也几乎都有支持关系数据库的接口。这主要是传统的关系型数据库可以比较好的解决管理和存储关系型数据的问题。随着云计算的发展和大数据时代的到来，关系型数据库越来越无法满足需要，这主要是由于越来越多的半关系型和非关系型数据需要用数据库进行存储管理，以此同时，分布式技术等新技术的出现也对数据库的技术提出了新的要求，于是越来越多的非关系型数据库就开始出现，这类数据库与传统的关系型数据库在设计和数据结构有了很大的不同， 它们更强调数据库数据的高并发读写和存储大数据，这类数据库一般被称为NoSQL（Not only SQL）数据库。 而传统的关系型数据库在一些传统领域依然保持了强大的生命力。

数据库管理系统

编辑

数据库管理系统是为管理数据库而设计的电脑软件系统，一般具有存储、截取、安全保障、备份等基础功能。数据库管理系统可以依据它所支持的数据库模型来作分类，例如关系式、XML；或依据所支持的计算机类型来作分类，例如服务器群集、移动电话；或依据所用查询语言来作分类，例如SQL、XQuery；或依据性能冲量重点来作分类，例如最大规模、最高运行速度；亦或其他的分类方式。不论使用哪种分类方式，一些DBMS能够跨类别，例如，同时支持多种查询语言。

AWS开源可跨关联式与NoSQL数据库的查询语言PartiQL

AWS推出了与SQL兼容的查询语言PartiQL，只要数据库查询引擎提供PartiQL支持，使用者就能以PartiQL单一查询关联式数据库的结构化资料，以及开放资料格式中的巢状资料或是半结构化资料，甚至还能用来查询NoSQL或是文件数据库中无固定结构（Schema-less）的资料。除了AWS自家的数据库服务，NoSQL数据库Couchbase Server也承诺将会支持PartiQL。

企业资料分散在关联式数据库、非关联式数据库以及资料湖泊中。高度结构化的资料，储存在SQL数据库或是资料仓储；无固定结构的资料则由键值储存、图形数据库（Graph Database）、分类帐数据库或是时间序列数据库等NoSQL数据库处理；而在资料湖泊中的资料，可能也有部分缺乏结构，或是可能为巢状或是多值结构。不同的资料类型适用于不同的使用案例，而每种类型的资料，可能都有自己的查询语言。

不同的资料储存对应不同的查询语言，当企业更换资料格式或是数据库引擎时，可能还需要跟着改变应用程式和查询语法，AWS提到，这对于资料的应用，特别是使用资料湖泊的灵活性与效率，有着很大的阻碍。为了统一不同类型数据库存取方法，AWS发布了查询语言PartiQL，这是个与SQL兼容的查询语言，可以用来查询以各种格式储存在各地的资料。

用户可以使用PartiQL来查询关联式数据库，像是在Redshift实作交易或是资料分析等应用，或对于Amazon S3资料湖泊的开放资料格式，同样能使用PartiQL对巢状资料与半结构化资料例如Amazon Ion格式进行查询，另外，PartiQL也可用于文件数据库等NoSQL数据库，查询无固定结构的资料。

AWS表示，PartiQL的出现，是为了满足自家查询和转换大量资料的需求，其提供严格的SQL兼容性，可与标准SQL混合使用，执行连接（Join）、过滤（Filtering）与聚合（Aggregation）操作，并以最小扩充支持巢状和半结构化资料，让开发者以简单且一致的方法，不需要更改查询语言，就能查询各种格式和服务的资料。

PartiQL具格式独立性与储存独立性，PartiQL语法和语义不依赖任何资料格式，无论使用者是要查询JSON、Parquet、ORC、CSV还是Ion等格式，查询语句的写法都相同，PartiQL的查询在综合逻辑类型系统上运作，才对应到不同底层的格式。而PartiQL也不相依于特定资料储存，因此适用于不同的底层资料储存。

虽然过去针对跨不同类型数据库查询的问题，已有不少解决方案，AWS指出，像是Postgres JSON同样也兼容于SQL，但是却无法良好地处理JSON巢状资料；而半结构化查询语言，虽然能良好处理巢状资料，但却无法与SQL语言兼容。AWS提到，PartiQL是第一个能够完全解决这些问题的查询语言。

目前AWS已在自家多项服务支持PartiQL，包括Amazon S3 Select、Amazon Glacier Select、Amazon Redshift Spectrum、Amazon QLDB，接下来几个月将会有更多的AWS服务支持PartiQL，Couchbase也公布将加入支持PartiQL的行列。现在PartiQL以Apache2.0授权许可开源，公开教学、规范以及参考实作，所有社群都能使用并参与贡献。

请问数据仓库都用什么建立？

1、首先你得搞清楚建设数仓的目的是什么

是偏向于整合各系统数据，为数据分析决策服务，还是偏向于快速的完成分析决策需求？

如果是前者，那么在数据仓库建模的时候一般会选择ER建模方法；

如果是后者，一般会选择维度建模方法。

ER建模：即实体关系建模，由数据仓库之父BIll Inmon提出，核心思想是从全企业的高度去设计三范式模型，用实体关系描述企业服务。主张的是自上而下的架构，将不同的OLTP数据集中到面向主题的数据仓库中。

维度建模：由Kimball提出，核心思想是从分析决策的需求出发构建模型。这种模型由事实表和维表组成，即星型模型和雪花模型。Kimball倡导自下而上的架构，可以针对独立部门建立数据集市，再递增的构建，汇总成数据仓库。

2、其次你得进行深入的业务调研和数据调研

业务调研：深入的业务调研能使你更加明确数仓建设的目的；同时也利于后续的建模设计，随着调研的开展，如何将实体业务抽象为数仓模型会更加明朗。

数据调研：各部门或各科室的数据现状了解，包括数据分类、数据存储方式、数据量、具体的数据内容等等。这对后续的主数据串联或者维度一致性处理等等都是必须的基础。

3、然后是数据仓库工具选型

传统型数据仓库：一般会选择第三方厂家的数据库和配套ETL工具。因为有第三方支持，相对有保障；但缺点也很明显，受约束以及成本较高。

NoSQL型数据仓库：一般是基于hadoop生态的数据仓库。hadoop生态已经非常强大，可以找到各种开源组件去支持数据仓库。缺点是需要招聘专门人士去摸索，并且相对会存在一些未知隐患。

4、最后是设计与实施

设计：包括数据架构中的数据层次划分以及具体的模型设计；也包括程序架构中的数据质量管理、元数据管理、调度管理等；

实施：规范化的项目管理实施，但同时也需记住一点，数据仓库不是一个项目，它是一个过程。

数据库与数据仓库的本质区别是什么?

1、存放值区别：

数据库只存放在当前值，数据仓库存放历史值；

2、数据变化区别：

数据库内数据是动态变化的，只要有业务发生，数据就会被更新，而数据仓库则是静态的历史数据，只能定期添加、刷新；

3、数据结构区别：

数据库中的数据结构比较复杂，有各种结构以适合业务处理系统的需要，而数据仓库中的数据结构则相对简单；

4、访问频率不同：

数据库中数据访问频率较高，但访问量较少，而数据仓库的访问频率低但访问量却很高；

5、目标人群区别：

数据库中数据的目标是面向业务处理人员的，为业务处理人员提供信息处理的支持，而数据仓库则是面向高层管理人员的，为其提供决策支持；

为什么要建立数据仓库

数据仓库是为了满足分析需要，对源数据进行了Transform过程，具体是怎样一个处理过程，可以从Bill Inmon的仓库定义四个特性进行理解。）数据仓库系统（用数据库装东西）与其他基础业务系统（例如财务系统、销售系统、人力资源系统等，也是用数据库装东西）的区别是： 基础业务系统的特点是各管各的，例如财务系统生产了白菜，那么用一个数据库来装，人力资源系统生产了猪肉，再用一个数据库来装。我要做一道菜，需要分别到各个数据库去取，比较麻烦（现实的情况是大部分时候让种菜的农民伯伯送过来，但送过来的东西不一定是我想要的，而且不同的时候我想要不同的东西，经常会被农民伯伯骂，弄得双方都不开心）。另外一方面，各个数据库中放的是一些比较原始的东西，我要拿过来做菜，还需要经过很麻烦的清洗过程，一不小心里面可能就藏着一条大青虫。那么，数据仓库系统就是建立一个大的超市，将各地农民伯伯出产的东西收集过来，清洗干净，分门别类地放好。这样，你要哪种菜的时候，直接从超市里面拿就可以了。

数据仓库的特点是：

(1)数据仓库是面向主题的.

(2)数据仓库是集成的

(3)数据仓库具有时间相关性.

(4)数据仓库的数据是相对稳定的.

数据仓库Hive

一个公司里面不同项目可能用到不同的数据源，有的存在MySQL里面，又的存在MongoDB里面，甚至还有些要做第三方数据。

但是现在又想把数据整合起来，进行 数据分析 。此时数据仓库(Data Warehouse，DW)就派上用场了。它可以对多种业务数据进行筛选和整合，可以用于数据分析、数据挖掘、数据报表。

总的来说，数据仓库是将多个数据源的数据按照一定的 主题 集成起来，因为之前的数据各不相同，所以需要 抽取、清洗、转换 。

整合以后的数据不允许随便修改，只能分析，还需要定期更新。

上面我们说过，数据仓库接收的数据源是不同的，要做集成的话，需要 抽取、清洗、转换 三个步骤，这就是 ETL (Extract-Transform-Load)

国内最常用的是一款基于Hadoop的开源数据仓库，名为 Hive ，它可以对存储在 HDFS 的文件数据进行 查询、分析 。

Hive对外可以提供HiveQL，这是类似于SQL语言的一种查询语言。在查询时可以将HiveQL语句转换为 MapReduce 任务，在Hadoop层进行执行。

Hive的最大优势在于 免费 ，那其他知名的商业数据仓库有那些呢？比如Oracle,DB2，其中业界老大是 Teradata

Teradata数据仓库支持大规模并行处理平台(MPP)，可以高速处理海量实际上，性能远远高于Hive。对企业来说，只需要专注于业务，节省管理技术方面的精力，实现ROI（投资回报率）最大化。

上面提到了Hive是最著名的开源数据仓库，它是Hadoop生态中一个重要的组件。

Hadoop的生态中，HDFS解决了分布式存储的问题，MapReduce解决了分布式计算的问题，而HBASE则提供了一种NoSQL的存储方法。

但是如果需要的HDFS上的文件或者HBASE的表进行查询，需要自定义MapReduce方法。那么Hive其实就是在HDFS上面的一个中间层，它可以让业务人员直接使用SQL进行查询。

所以Hive是用进行数据提取转换加载的，而且它可以把SQL转换为MapReduce任务，而Hive的表就是HDFS的目录或者文件。

上图为Hive的体系结构

Hive主要包含以下几种数据模型：

本文为 什么是数据仓库？ 的笔记