创意电子

标题: 一个比 MySQL 快 800 多倍的数据库“ClickHouse” [打印本页]

作者: Java开发仔    时间: 2021-9-18 16:42
标题: 一个比 MySQL 快 800 多倍的数据库“ClickHouse”
原文链接:https://mp.weixin.qq.com/s/GV7QLroUJFbVAvKkSnnG8w
原作者:JavaGuide
各人好呀!这里是爱学习的Guide!今天给各人科普一个速度快到飞起的数据库——ClickHouse。

你可能没有用过 ClickHouse ,但是一定听过它的名字。


                               
登录/注册后可看大图

为了拓展一下自己的知识面,前段时间,我找到了 《ClickHouse 原理剖析和应用实践》这本书来看。写得真心不错!

这篇文章我简朴从一个 ClickHouse 初学者的角度,给小伙伴们科普一下 OLAP、OLTP 以及 ClickHouse 的前世此生和应用场景。

个人本领有限。如果文章有任何须要补充/完善/修改的地方,欢迎在评论区指出,共同进步!

OLAP 介绍

为了将企业的数据有用整合,快速制作出报表以供数据分析/决策使用,诞生了一个叫做OLAP(Online Analytical Processing,联机分析处理)体系的概念,也叫做现代 BI(Business Intelligence,商业智能)体系。


                               
登录/注册后可看大图

与 OLAP 相对应的另有一个叫做 OLTP(Online Transaction Processing ,联机事务处理)的概念。这个我们平常一样平常打仗的就比较多了,像企业的 ERP,CRM,OA 等体系都属于 OLTP 体系。

OLTP & OLAP

简朴总结一下:

数据仓库

OLAP 体系一般以数据仓库作为底子。数据仓库是为了将分散的数据汇聚到一处,将它们统一存储起来。


                               
登录/注册后可看大图

数据仓库的构建通常还会涉及到 ETL 的过程。ETL 即数据抽取(Extract)、转换(Transform)、装载(Load)。

下面这张图片来自:What is a Data Warehouse? | IBM[1]


                               
登录/注册后可看大图

大部分用于 OLTP 的数据库都可以实行 OLAP 相关的操作,只不过,服从通常都比较低,毕竟, 这不是它们所善于的地方。

OLAP 分类

主流的 OLAP 可以分为 3 类 ROLAP、MOLAP、HOLAP。

ROLAP ( Relational OLAP,关系型 OLAP )

对数据不举行预处理,实时聚合计算,灵活性更好!适用于 对查询模式不固定、查询灵活性要求高的场景。常见的 ROLAP 有 Presto,Impala,Clickhouse 等等。

MOLAP ( Multi-dimensional OLAP ,多维 OLAP)

会对数据预处理,这提高了查询性能,同时也低落了灵活性。适用于查询场景相对固定而且对查询性能要求非常高的场景。常见的 MOLAP 有 Druid,Kylin,Doris 等等。

HOLAP ( Hybrid OLAP ,混合型 OLAP)

混合类型 OLAP。通常情况下,查询聚合性数据的时候,使用 MOLAP 技能;当查询明细数据时,使用 ROLAP 技能。在给定使用场景的前提下,以到达查询性能的最优化。

相关阅读保举:《什么是 OLAP?主流八大开源OLAP 技能架构对比》[2]

ClickHouse

简介

ClickHouse 是 Yandex(俄罗斯的一家做搜索引擎的公司)公司的一个产品,诞生于自家的在线流量分析产品—Yandex.Metrica。


                               
登录/注册后可看大图

根据 ClickHouse 官方文档[3]介绍:ClickHouse 是一个用于联机分析(OLAP)的 MPP 架构的列式数据库管理体系(DBMS)。

目前的话,国内有很多公司都在使用 ClickHouse ,比如腾讯、字节、金数据、B 站。

下面是腾讯音乐对 ClickHouse 实践:


                               
登录/注册后可看大图

Github 地点:https://github.com/ClickHouse/ClickHouse 。


                               
登录/注册后可看大图

腾讯云云数据库仓库ClickHouse
前世此生

其实,ClickHouse 的诞生也是一步一步改进现有体系之后得到的产物!

Yandex.Metrica 的第一版架构其实是基于 MySQL(ROLAP) 来做的。

后来,这一版架构出现了瓶颈,数据量过多(5800 亿)导致分析报告的淹灭时间过长。纵然对这一版架构举行了大量优化之后,淹灭时间也仅仅是提高到了 26 秒。

于是,Yandex.Metrica 的研发团队开始另辟蹊径了!

他们自研了一个叫做 Metrage(MOLAP) 的新体系。Metrage 的架构设计和 MySQl 差别很大,就比如它使用的是 LSM 树作为索引结构而不是 B+ 树。

Metrage 固然解决了性能问题,但是,产品方面又有了新的需求。

Metrage 只支持聚合数据查询,因此只有固定的报表分析功能,非常不灵活。我们希望可以有一个体系支持处理自定义报告这类。

于是,Yandex.Metrica 又自主研发出了 OLAPServer(HOLAP) 体系。而且,OLAPServer 使用 SQL 作为查询语言。

OLAPServer 体系专为非聚合数据使用,实时聚合性能非常强!

不过,OLAPServer 也有缺陷比如缺少对数据类型的支持(只支持一种数据类型)。而且,功能也比较简陋,仅仅支持一些简朴的功能,并没有一个 DBMS 应该有的基本管理功能比如 DDL 查询。

于是,Yandex.Metrica 继续在 OLAPServer 的底子上进一步完善,最终打造出了 ClickHouse(ROLAP)。

为什么这么快?

ClickHouse 官方给出了一份非常详细的 ClickHouse 性能测试图,并提供了和其他常见数据库的对比。

性能报告地点:https://clickhouse.tech/benchmark/dbms/ 。

通过这份报告,可以非常直观地感受到 ClickHouse 到底是有多快!


                               
登录/注册后可看大图

这么说吧,ClickHouse 在相同的服务器设置与数据量(1000 万)下,平均相应速度是 MySQL 的 400 多倍,当数据量到达 1 亿的话,平均相应速度是 MySQL 的 800 多倍。

不谈详细的技能与架构,ClickHouse 之所以能够这么快主要得益于下面几点(结合《ClickHouse 原理剖析与应用实践》所做的总结):

适用场景

ClickHouse 固然性能很强,查询速度和 MySQL 这类关系型数据库完全不是一个量级。

但是,ClickHouse 并不可以取代 MySQL 这类关系型数据库,它们是互补的关系。

ClickHouse 作为一款 OLAP 数据库,其应用场景主要就是数据分析比如广告流量分析,不适用于 OLTP 事务性操作的场景,由于,它不支持事务而且对按行删除数据不敷友好!





欢迎光临 创意电子 (https://wxcydz.cc/) Powered by Discuz! X3.4