Apache Kylin™是一个开源的分布式分析引擎,提供Hadoop/Spark之上的SQL查询接口及多维分析(OLAP)能力以支持超大规模数据,最初由eBay Inc. 开发并贡献至开源社区。它能在亚秒内查询巨大的Hive表
kylin 是什么
1.OLAP
减少hadoop/spark上百亿级查询延迟
2.Hadoop ANSI SQL 接口
提供标准SQL 功能支持大部分查询
3.交互查询能力
4.MOLAP
提供多维分析cube 功能
kylin 生态圈
1.Kylin 核心:
Kylin OLAP引擎基础框架,包括元数据(Metadata)引擎,查询引擎,Job引擎及存储引擎等,同时包括REST服务器以响应客户端请求
2.扩展:
支持额外功能和特性的插件
3.整合:
与调度系统,ETL,监控等生命周期管理系统的整合
4.用户界面:
在Kylin核心之上扩展的第三方用户界面
5.驱动:
ODBC 和 JDBC 驱动以支持不同的工具和产品,比如Tableau
本系列文章将从以下几个方面进行介绍
- kylin 构建流程
- 维度优化
- rowkey 优化
- 精确去重
- 优化cube 构建