创意电子

标题: 一个比 MySQL 快 800 多倍的数据库“ClickHouse” [打印本页]

作者: Java开发仔 时间: 2021-9-18 16:42
标题: 一个比 MySQL 快 800 多倍的数据库“ClickHouse”

原文链接：https://mp.weixin.qq.com/s/GV7QLroUJFbVAvKkSnnG8w
原作者：JavaGuide

各人好呀！这里是爱学习的Guide！今天给各人科普一个速度快到飞起的数据库——ClickHouse。

你可能没有用过 ClickHouse ，但是一定听过它的名字。

为了拓展一下自己的知识面，前段时间，我找到了《ClickHouse 原理剖析和应用实践》这本书来看。写得真心不错！

这篇文章我简朴从一个 ClickHouse 初学者的角度，给小伙伴们科普一下 OLAP、OLTP 以及 ClickHouse 的前世此生和应用场景。

个人本领有限。如果文章有任何须要补充/完善/修改的地方，欢迎在评论区指出，共同进步！

OLAP 介绍

为了将企业的数据有用整合，快速制作出报表以供数据分析/决策使用，诞生了一个叫做OLAP（Online Analytical Processing，联机分析处理）体系的概念，也叫做现代 BI（Business Intelligence，商业智能）体系。

与 OLAP 相对应的另有一个叫做 OLTP（Online Transaction Processing ，联机事务处理）的概念。这个我们平常一样平常打仗的就比较多了，像企业的 ERP，CRM，OA 等体系都属于 OLTP 体系。

OLTP & OLAP

简朴总结一下：

OLTP ：可以包管操作的事务性，通常必要用到传统的关系型数据库比如 MySQL，主要操作是增编削查（比如添加用户、用户之间转账）。OLTP 通常处理的数据量不会很大，由于数据量大了之后 OLTP 数据库的相应一般会非常慢。
OLAP ：对数据做分析然后得出一些效果比如数据报表，主要操作是查询（比如生成网站的流量分析报告）。OLAP 处理的数据量往往很大，而且 OLAP 处理的数据对象是数据仓库（data warehouse）中的数据。

数据仓库

OLAP 体系一般以数据仓库作为底子。数据仓库是为了将分散的数据汇聚到一处，将它们统一存储起来。

数据仓库的构建通常还会涉及到 ETL 的过程。ETL 即数据抽取（Extract）、转换（Transform）、装载（Load）。

下面这张图片来自：What is a Data Warehouse? | IBM[1]

大部分用于 OLTP 的数据库都可以实行 OLAP 相关的操作，只不过，服从通常都比较低，毕竟，这不是它们所善于的地方。

OLAP 分类

主流的 OLAP 可以分为 3 类 ROLAP、MOLAP、HOLAP。

ROLAP ( Relational OLAP，关系型 OLAP )

对数据不举行预处理，实时聚合计算，灵活性更好！适用于对查询模式不固定、查询灵活性要求高的场景。常见的 ROLAP 有 Presto，Impala，Clickhouse 等等。

MOLAP ( Multi-dimensional OLAP ，多维 OLAP)

会对数据预处理，这提高了查询性能，同时也低落了灵活性。适用于查询场景相对固定而且对查询性能要求非常高的场景。常见的 MOLAP 有 Druid，Kylin，Doris 等等。

HOLAP ( Hybrid OLAP ，混合型 OLAP)

混合类型 OLAP。通常情况下，查询聚合性数据的时候，使用 MOLAP 技能；当查询明细数据时，使用 ROLAP 技能。在给定使用场景的前提下，以到达查询性能的最优化。

相关阅读保举：《什么是 OLAP？主流八大开源OLAP 技能架构对比》[2]

ClickHouse

简介

ClickHouse 是 Yandex（俄罗斯的一家做搜索引擎的公司）公司的一个产品，诞生于自家的在线流量分析产品—Yandex.Metrica。

根据 ClickHouse 官方文档[3]介绍：ClickHouse 是一个用于联机分析(OLAP)的 MPP 架构的列式数据库管理体系(DBMS)。

目前的话，国内有很多公司都在使用 ClickHouse ，比如腾讯、字节、金数据、B 站。

下面是腾讯音乐对 ClickHouse 实践：

Github 地点：https://github.com/ClickHouse/ClickHouse 。

腾讯云云数据库仓库ClickHouse
前世此生

其实，ClickHouse 的诞生也是一步一步改进现有体系之后得到的产物！

Yandex.Metrica 的第一版架构其实是基于 MySQL（ROLAP）来做的。

后来，这一版架构出现了瓶颈，数据量过多(5800 亿)导致分析报告的淹灭时间过长。纵然对这一版架构举行了大量优化之后，淹灭时间也仅仅是提高到了 26 秒。

于是，Yandex.Metrica 的研发团队开始另辟蹊径了！

他们自研了一个叫做 Metrage（MOLAP）的新体系。Metrage 的架构设计和 MySQl 差别很大，就比如它使用的是 LSM 树作为索引结构而不是 B+ 树。

Metrage 固然解决了性能问题，但是，产品方面又有了新的需求。

Metrage 只支持聚合数据查询，因此只有固定的报表分析功能，非常不灵活。我们希望可以有一个体系支持处理自定义报告这类。

于是，Yandex.Metrica 又自主研发出了 OLAPServer（HOLAP）体系。而且，OLAPServer 使用 SQL 作为查询语言。

OLAPServer 体系专为非聚合数据使用，实时聚合性能非常强！

不过，OLAPServer 也有缺陷比如缺少对数据类型的支持（只支持一种数据类型）。而且，功能也比较简陋，仅仅支持一些简朴的功能，并没有一个 DBMS 应该有的基本管理功能比如 DDL 查询。

于是，Yandex.Metrica 继续在 OLAPServer 的底子上进一步完善，最终打造出了 ClickHouse（ROLAP）。

为什么这么快？

ClickHouse 官方给出了一份非常详细的 ClickHouse 性能测试图，并提供了和其他常见数据库的对比。

性能报告地点：https://clickhouse.tech/benchmark/dbms/ 。

通过这份报告，可以非常直观地感受到 ClickHouse 到底是有多快！

这么说吧，ClickHouse 在相同的服务器设置与数据量（1000 万）下，平均相应速度是 MySQL 的 400 多倍，当数据量到达 1 亿的话，平均相应速度是 MySQL 的 800 多倍。

不谈详细的技能与架构，ClickHouse 之所以能够这么快主要得益于下面几点（结合《ClickHouse 原理剖析与应用实践》所做的总结）：

特殊场景特殊对待 ：同一个场景的不同状况，选择使用不同的实现方式，尽可能将性能最大化。比如去重计数 uniqCombined() 函数，会根据数据量的不同选择不同的算法：当数据量较小的时候，会选择 Array 保存；当数据量中等的时候，会选择HashSet；而当数据量很大的时候，则使用 HyperLogLog 算法。
勇于尝鲜，不可就换 : ClickHouse 会优先使用最合适、最快的算法。如果市面上出现了可能会更好用的新算法的话，ClickHouse 通常会立即将其纳入并举行验证。效果不错的话，就继续用着。效果不可的话，就直接踢掉。
持续测试，持续改进 ：优秀的软件不是一朝一夕形成的，必要不停的测试改进。

适用场景

ClickHouse 固然性能很强，查询速度和 MySQL 这类关系型数据库完全不是一个量级。

但是，ClickHouse 并不可以取代 MySQL 这类关系型数据库，它们是互补的关系。

ClickHouse 作为一款 OLAP 数据库，其应用场景主要就是数据分析比如广告流量分析，不适用于 OLTP 事务性操作的场景，由于，它不支持事务而且对按行删除数据不敷友好！

欢迎光临创意电子 (https://wxcydz.cc/)