ELK和EFKK日志收集分析

组件功能对比

ELK(Elasticsearch、Logstash、Kibana)

  • Elasticsearch:是核心的存储和搜索引擎。它以分布式的方式存储日志数据,通过倒排索引机制实现高效的搜索和聚合。例如,当需要查询特定时间段内某个应用程序产生的错误日志数量时,Elasticsearch 能够快速返回结果。其数据存储以索引(Index)为单位,每个索引类似于数据库中的表,存储着相关的日志文档(Document)。

  • Logstash:作为数据收集和预处理工具,功能强大。它支持多种输入插件,如从文件(可以是本地文件系统中的各种日志文件)、数据库(如通过 JDBC 插件从关系型数据库收集日志)、网络协议(如 UDP、TCP)等多种来源收集日志。在数据处理方面,Logstash 拥有丰富的过滤器,如 grok 过滤器通过正则表达式解析日志格式,提取关键信息;date 过滤器用于转换日期格式等。例如,对于一条包含复杂格式日期和 IP 地址的日志,Logstash 可以提取 IP 地址并将日期转换为标准格式后再发送给 Elasticsearch。

  • Kibana:是可视化的前端工具。用户可以通过简单的配置在 Kibana 中创建各种可视化图表,如柱状图展示不同服务器的日志流量,折线图体现日志随时间的变化趋势,还可以通过仪表盘将多个相关图表组合在一起。同时,它提供了强大的查询功能,方便用户根据关键词、时间范围、字段值等条件搜索日志。

EFKK(Elasticsearch、Filebeat、Kafka、Kibana )体系

  • Elasticsearch 和 Kibana:功能与 ELK 体系中的相同,Elasticsearch 负责存储和索引,Kibana 负责可视化和查询。

  • Filebeat:是一个轻量级的日志采集器。它专注于从文件系统中收集日志文件,特别适用于大量的小文件或者日志文件更新频繁的场景。例如,在一个服务器集群中,Filebeat 可以高效地收集各个服务器上的系统日志、应用程序日志等文件,并且占用资源较少。它会将收集到的日志发送到指定的输出端,如 Elasticsearch 或者 Kafka。

  • Kafka:是一个分布式的消息队列。在这个体系中,它主要用于缓冲和传递日志数据。当 Filebeat 收集到大量日志时,可以先将日志发送到 Kafka,Kafka 会暂时存储这些日志,然后按照一定的规则(如消费者的消费速度)将日志数据发送到 Elasticsearch。这样可以起到削峰填谷的作用,避免在日志收集高峰期大量日志直接冲击 Elasticsearch,导致性能问题。

数据收集流程对比

  • ELK:Logstash 从各种数据源收集日志,经过自身的过滤和预处理后,直接将数据发送到 Elasticsearch 进行存储和索引。整个流程相对直接,Logstash 起到了承上启下的关键作用,对数据的收集和预处理都在这一个组件中完成。

  • EFKK:Filebeat 从文件系统收集日志,然后将日志发送到 Kafka。Kafka 作为中间的消息队列,对日志进行缓存和分发。最后,日志从 Kafka 发送到 Elasticsearch 进行存储。这个流程相对复杂,但通过 Kafka 的缓冲,可以更好地应对高并发的日志收集场景,提高系统的稳定性和可靠性。
    性能和资源占用对比

  • ELK:Logstash 由于要承担复杂的数据收集和处理任务,相对来说资源消耗较大。在大规模日志收集场景下,如果配置不当,可能会成为性能瓶颈。不过,如果对数据预处理要求较高,Logstash 的强大功能可以很好地满足需求。

  • EFKK:Filebeat 是轻量级的,资源占用少,适合在大量服务器或者设备上部署用于日志收集。Kafka 虽然本身也需要一定的资源来运行,但它的分布式架构和高效的消息传递机制可以有效处理大量日志。整体而言,这个体系在性能和资源利用上更具灵活性,特别是在应对高流量、高并发的日志场景时优势明显。

适用场景对比

  • ELK:适用于对日志数据预处理要求复杂的场景,如需要从多种数据源收集日志,并且要对日志进行深度清洗、格式转换、关联多个数据源的信息等操作。
    在企业内部的传统数据中心,对于系统日志、应用程序日志等多种类型日志进行集中收集和分析,并且希望通过一个工具(Logstash)实现大部分的数据预处理工作的场景。

  • EFKK:非常适合大规模、分布式的日志收集场景,如在云计算环境、容器集群(如 Kubernetes)中,有大量的服务器或者容器产生日志,需要高效、稳定的收集和存储。
    当日志产生具有突发性或者高并发的特点时,通过 Kafka 的缓冲可以确保日志收集和存储的流畅性,例如电商平台在促销活动期间,大量用户访问产生的日志收集。

©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 214,837评论 6 496
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 91,551评论 3 389
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 160,417评论 0 350
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 57,448评论 1 288
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 66,524评论 6 386
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 50,554评论 1 293
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 39,569评论 3 414
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 38,316评论 0 270
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 44,766评论 1 307
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 37,077评论 2 330
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 39,240评论 1 343
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 34,912评论 5 338
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 40,560评论 3 322
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 31,176评论 0 21
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 32,425评论 1 268
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 47,114评论 2 366
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 44,114评论 2 352

推荐阅读更多精彩内容