实训总结20171008

ElasticSearch

Redis c++编写代码量小,消耗内存大

SSDB 360的k-v硬盘

fastDFS阿里k-vNginx

大数据4V理论

❶Volume,数据规模大,从T升到P、E;

❷Variety,数据类型多,非结构化的数据、语音、地理位置信息、视频等数据;

❸Value,数据价值高,具有很大的商业价值,支持深层数据挖掘;

❹Velocity,数据处理速度快,要求实时处理而非传统的存储性数据进行数据库处理。

层次架构


基础概念

接近实时:Elasticsearch是一个接近实时的搜索平台。这意味着,从索引一个文档直到这个文档能够被搜索到有一个轻微的延迟(通常是1秒)

集群(cluster):一个集群就是由一个或多个节点组织在一起,它们共同持有你整个的数据,并一起提供索引和搜索功能。

节点(node):一个节点是你集群中的一个服务器,作为集群的一部分,它存储你的数据,参与集群的索引和搜索功能。一个节点可以通过配置集群名称的方式来加入一个指定的集群

索引(index):一个索引就是一个拥有几分相似特征的文档的集合。

类型(type):在一个索引中,你可以定义一种或多种类型。一个类型是你的索引的一个逻辑上的分类/分区,其语义完全由你来定。

文档(document):一个文档是一个可被索引的基础信息单元。

分片和复制(shards & replicas)

一个索引可以存储超出单个结点硬件限制的大量数据。比如,一个具有10亿文档的索引占据1TB的磁盘空间,而任一节点都没有这样大的磁盘空间;或者单个节点处理搜索请求,响应太慢。

为了解决这个问题,Elasticsearch提供了将索引划分成多份的能力,这些份就叫做分片。当你创建一个索引的时候,你可以指定你想要的分片的数量。每个分片本身也是一个功能完善并且独立的“索引”,这个“索引”可以被放置到集群中的任何节点上。

分片之所以重要,主要有两方面的原因:

允许你水平分割/扩展你的内容容量

允许你在分片(潜在地,位于多个节点上)之上进行分布式的、并行的操作,进而提高性能/吞吐量。

怎样聚合回搜索请求,是完全由Elasticsearch管理的

ES部署

1.Cluster

cluster.name: elasticsearch

设置ElasticSearch集群的名字,默认的集群名字为elasticsearch,如果想要让某一ElasticSearch节点加入集群只需指定cluster.name

2. Node

node.name:“Franz

Kafka“,设置ElasticSearch节点的名字

node.master: true,设置节点是否为主节点

node.data: true,设置节点是否存储索引分片

3. Index

index.number_of_shards: 5,设置索引的分片数,默认为5个分片

index.number_of_replicas: 1,设置索引的副本数,默认为1个副本

4. Paths

path.data: /data/esdata,设置索引数据的存储路径

path.logs: /data/eslogs,设置日志数据的存储路径

ES常用命令

_cat系列

_cat系列提供了一系列查询elasticsearch集群状态的接口。你可以通过执行

curl -XGET localhost:9201/_cat

获取所有_cat系列的操作

http://47.94.18.202:9201/

/_cat/allocation ?v

/_cat/shards ?v

/_cat/shards/{index} ?v

/_cat/master ?v

/_cat/nodes ?v

/_cat/indices ?v

/_cat/indices/{index} ?v

/_cat/segments ?v

/_cat/segments/{index} ?v

/_cat/count ?v

/_cat/count/{index} ?v

/_cat/recovery ?v

/_cat/recovery/{index} ?v

/_cat/health ?v

/_cat/pending_tasks ?v

/_cat/aliases ?v

/_cat/aliases/{alias} ?v

/_cat/thread_pool ?v

/_cat/plugins ?v

/_cat/fielddata ?v

/_cat/fielddata/{fields} ?v

你也可以后面加一个v,让输出内容表格显示表头

²_cluster系列

1、查询设置集群状态

curl -XGET localhost:9201/_cluster/health?pretty=true

pretty=true表示格式化输出

level=indices表示显示索引状态

level=shards表示显示分片信息

2、curl -XGET localhost:9201/_cluster/stats?pretty=true

显示集群系统信息,包括CPU JVM等等

3、curl -XGET localhost:9201/_cluster/state?pretty=true

集群的详细信息。包括节点、分片等。

3、curl -XGETlocalhost:9201/_cluster/pending_tasks?pretty=true

²_nodes系列

1、查询节点的状态

curl -XGET ‘http://localhost:9201/_nodes/stats?pretty=true’

curl -XGET ‘http://localhost:9201/_nodes/192.168.1.2/stats?pretty=true’

curl -XGET ‘http://localhost:9201/_nodes/process’

curl -XGET ‘http://localhost:9201/_nodes/_all/process’

curl -XGET ‘http://localhost:9201/_nodes/192.168.1.2,192.168.1.3/jvm,process’

curl -XGET‘http://localhost:9201/_nodes/192.168.1.2,192.168.1.3/info/jvm,process’

curl -XGET ‘http://localhost:9201/_nodes/192.168.1.2,192.168.1.3/_all

curl -XGET ‘http://localhost:9201/_nodes/hot_threads

插件有kopf、head、sql

脑裂问题:由于某些节点的失效,部分节点的网络连接会断开,并形成一个与原集群一样名字的集群,这种情况成为集群脑裂(split-brain)现象。这个问题非常危险,因为两个新形成的集群会同时索引和修改集群的数据。

正常情况下,集群中的所有的节点,应该对集群中master的选择是一致的,这样获得的状态信息也应该是一致的,不一致的状态信息,说明不同的节点对master节点的选择出现了异常——也就是所谓的脑裂问题。这样的脑裂状态直接让节点失去了集群的正确状态,导致集群不能正常工作。

最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 218,122评论 6 505
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 93,070评论 3 395
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 164,491评论 0 354
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 58,636评论 1 293
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 67,676评论 6 392
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 51,541评论 1 305
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 40,292评论 3 418
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 39,211评论 0 276
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 45,655评论 1 314
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 37,846评论 3 336
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 39,965评论 1 348
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 35,684评论 5 347
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 41,295评论 3 329
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 31,894评论 0 22
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 33,012评论 1 269
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 48,126评论 3 370
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 44,914评论 2 355

推荐阅读更多精彩内容