原文链接:https://mp.weixin.qq.com/s/GV7QLroUJFbVAvKkSnnG8w
原作者:JavaGuide
各人好呀!这里是爱学习的Guide!今天给各人科普一个速度快到飞起的数据库——ClickHouse。
你可能没有用过 ClickHouse ,但是一定听过它的名字。
为了拓展一下自己的知识面,前段时间,我找到了 《ClickHouse 原理剖析和应用实践》这本书来看。写得真心不错!
这篇文章我简朴从一个 ClickHouse 初学者的角度,给小伙伴们科普一下 OLAP、OLTP 以及 ClickHouse 的前世此生和应用场景。
个人本领有限。如果文章有任何须要补充/完善/修改的地方,欢迎在评论区指出,共同进步!
OLAP 介绍
为了将企业的数据有用整合,快速制作出报表以供数据分析/决策使用,诞生了一个叫做OLAP(Online Analytical Processing,联机分析处理)体系的概念,也叫做现代 BI(Business Intelligence,商业智能)体系。
与 OLAP 相对应的另有一个叫做 OLTP(Online Transaction Processing ,联机事务处理)的概念。这个我们平常一样平常打仗的就比较多了,像企业的 ERP,CRM,OA 等体系都属于 OLTP 体系。
OLTP & OLAP
简朴总结一下:
- OLTP :可以包管操作的事务性,通常必要用到传统的关系型数据库比如 MySQL,主要操作是增编削查(比如添加用户、用户之间转账)。OLTP 通常处理的数据量不会很大,由于数据量大了之后 OLTP 数据库的相应一般会非常慢。
- OLAP :对数据做分析然后得出一些效果比如数据报表,主要操作是查询(比如生成网站的流量分析报告)。OLAP 处理的数据量往往很大,而且 OLAP 处理的数据对象是数据仓库(data warehouse)中的数据。
数据仓库
OLAP 体系一般以数据仓库作为底子。数据仓库是为了将分散的数据汇聚到一处,将它们统一存储起来。
数据仓库的构建通常还会涉及到 ETL 的过程。ETL 即数据抽取(Extract)、转换(Transform)、装载(Load)。
下面这张图片来自:What is a Data Warehouse? | IBM[1]
大部分用于 OLTP 的数据库都可以实行 OLAP 相关的操作,只不过,服从通常都比较低,毕竟, 这不是它们所善于的地方。
OLAP 分类
主流的 OLAP 可以分为 3 类 ROLAP、MOLAP、HOLAP。
ROLAP ( Relational OLAP,关系型 OLAP )
对数据不举行预处理,实时聚合计算,灵活性更好!适用于 对查询模式不固定、查询灵活性要求高的场景。常见的 ROLAP 有 Presto,Impala,Clickhouse 等等。
MOLAP ( Multi-dimensional OLAP ,多维 OLAP)
会对数据预处理,这提高了查询性能,同时也低落了灵活性。适用于查询场景相对固定而且对查询性能要求非常高的场景。常见的 MOLAP 有 Druid,Kylin,Doris 等等。
HOLAP ( Hybrid OLAP ,混合型 OLAP)
混合类型 OLAP。通常情况下,查询聚合性数据的时候,使用 MOLAP 技能;当查询明细数据时,使用 ROLAP 技能。在给定使用场景的前提下,以到达查询性能的最优化。
相关阅读保举:《什么是 OLAP?主流八大开源OLAP 技能架构对比》[2]
ClickHouse
简介
ClickHouse 是 Yandex(俄罗斯的一家做搜索引擎的公司)公司的一个产品,诞生于自家的在线流量分析产品—Yandex.Metrica。
根据 ClickHouse 官方文档[3]介绍:ClickHouse 是一个用于联机分析(OLAP)的 MPP 架构的列式数据库管理体系(DBMS)。
目前的话,国内有很多公司都在使用 ClickHouse ,比如腾讯、字节、金数据、B 站。
下面是腾讯音乐对 ClickHouse 实践:
Github 地点:https://github.com/ClickHouse/ClickHouse 。
腾讯云云数据库仓库ClickHouse
前世此生
其实,ClickHouse 的诞生也是一步一步改进现有体系之后得到的产物!
Yandex.Metrica 的第一版架构其实是基于 MySQL(ROLAP) 来做的。
后来,这一版架构出现了瓶颈,数据量过多(5800 亿)导致分析报告的淹灭时间过长。纵然对这一版架构举行了大量优化之后,淹灭时间也仅仅是提高到了 26 秒。
于是,Yandex.Metrica 的研发团队开始另辟蹊径了!
他们自研了一个叫做 Metrage(MOLAP) 的新体系。Metrage 的架构设计和 MySQl 差别很大,就比如它使用的是 LSM 树作为索引结构而不是 B+ 树。
Metrage 固然解决了性能问题,但是,产品方面又有了新的需求。
Metrage 只支持聚合数据查询,因此只有固定的报表分析功能,非常不灵活。我们希望可以有一个体系支持处理自定义报告这类。
于是,Yandex.Metrica 又自主研发出了 OLAPServer(HOLAP) 体系。而且,OLAPServer 使用 SQL 作为查询语言。
OLAPServer 体系专为非聚合数据使用,实时聚合性能非常强!
不过,OLAPServer 也有缺陷比如缺少对数据类型的支持(只支持一种数据类型)。而且,功能也比较简陋,仅仅支持一些简朴的功能,并没有一个 DBMS 应该有的基本管理功能比如 DDL 查询。
于是,Yandex.Metrica 继续在 OLAPServer 的底子上进一步完善,最终打造出了 ClickHouse(ROLAP)。
为什么这么快?
ClickHouse 官方给出了一份非常详细的 ClickHouse 性能测试图,并提供了和其他常见数据库的对比。
性能报告地点:https://clickhouse.tech/benchmark/dbms/ 。
通过这份报告,可以非常直观地感受到 ClickHouse 到底是有多快!
这么说吧,ClickHouse 在相同的服务器设置与数据量(1000 万)下,平均相应速度是 MySQL 的 400 多倍,当数据量到达 1 亿的话,平均相应速度是 MySQL 的 800 多倍。
不谈详细的技能与架构,ClickHouse 之所以能够这么快主要得益于下面几点(结合《ClickHouse 原理剖析与应用实践》所做的总结):
- 特殊场景特殊对待 :同一个场景的不同状况,选择使用不同的实现方式,尽可能将性能最大化。比如去重计数 uniqCombined() 函数,会根据数据量的不同选择不同的算法:当数据量较小的时候,会选择 Array 保存;当数据量中等的时候,会选择HashSet;而当数据量很大的时候,则使用 HyperLogLog 算法。
- 勇于尝鲜,不可就换 : ClickHouse 会优先使用最合适、最快的算法。如果市面上出现了可能会更好用的新算法的话,ClickHouse 通常会立即将其纳入并举行验证。效果不错的话,就继续用着。效果不可的话,就直接踢掉。
- 持续测试,持续改进 :优秀的软件不是一朝一夕形成的,必要不停的测试改进。
适用场景
ClickHouse 固然性能很强,查询速度和 MySQL 这类关系型数据库完全不是一个量级。
但是,ClickHouse 并不可以取代 MySQL 这类关系型数据库,它们是互补的关系。
ClickHouse 作为一款 OLAP 数据库,其应用场景主要就是数据分析比如广告流量分析,不适用于 OLTP 事务性操作的场景,由于,它不支持事务而且对按行删除数据不敷友好! |