broker配置

#broker信息配置

broker.id:broker的id broker唯一标志

#下面三个配置是主机Ip和端口,broker注册会把这些信息到zk,后续版本  只用listener,host和port已经废弃

host.name:主机名 或者Ip

port:端口

listeners: 主机+端口,格式:security_protocol://host_name:port

如果没有安全协议,则用PLAINTEXT代替,例如PLAINTEXT://172.17.0.17:9092

#有时候客户端通过外网访问kafka集群,但是上面一般填的是内网地址,供内部调用,填写下面三个配置,客户端会通过下面的配置连接kakfa集群,格式类似

advertised.listeners

advertised.port

advertised.host.name:

broker.rack:指定机架名字,分配副本尽可能地为副本挑选不同机架的broker

broker.id.generation.enable:自动分配Brokerid,reserved.broker.max.id 需要配置

reserved.broker.max.id:最大max brokerid

#topic属性

auto.create.topics.enable:是否自动生成topic

delete.topic.enable:关闭了,则不能通过工具删除topic

compression.type:消息压缩类型,设为producer意思是producer来设置压缩类型

num.partitions:默认topic 的partition数量

default.replication.factor:默认副本数

#rebalance配置

auto.leader.rebalance.enable:开启自动balance,开启后台线程检查,当partition的leader分配不均匀时发生reblance,默认打开

leader.imbalance.check.interval.seconds:检查balance的间隔

leader.imbalance.per.broker.percentage:判定不balance的阈值

#消息文件配置

log.dir:消息保存目录

log.dirs:消息保存目录

log.flush.interval.messages:异步刷盘消息数间隔

log.flush.interval.ms:异步刷盘消息时间间隔

log.flush.offset.checkpoint.interval.ms:刷checkpoint到磁盘的时间间隔

log.flush.scheduler.interval.ms:刷checkpoint到磁盘的时间间隔

log.retention.bytes:默认日志保留最大字节数

log.retention.hours:默认日志保留时间

log.retention.minutes:默认日志保留时间

log.retention.ms:默认日志保留时间

log.roll.hours:生成新的segment的时间间隔

log.roll.jitter.hours:生成新的segment的时间间隔

log.roll.jitter.ms:生成新的segment的时间间隔

log.roll.ms:生成新的segment的时间间隔

log.segment.bytes:partition里一个segment的大小(一个partition分为很多个segment)

log.segment.delete.delay.ms:日志删除时间。当删除的条件满足以后,日志将被“删除”,但是这里的删除其实只是将该日志进行了“delete”标注,文件只是无法被索引到了而已。但是文件本身,仍然是存在的,只有当过了log.segment.delete.delay.ms 这个时间以后,文件才会被真正的从文件系统中删除。

log.index.interval.bytes:segment稀疏索引的间隔

log.index.size.max.bytes:index文件最大大小

log.preallocate:预分配文件空间

log.retention.check.interval.ms:检查日志是否删除的时间间隔

#日志清理(compact)配置

log.cleanup.policy:"delete" or "compact",2个弄在一起容易混淆,默认delete只执行日志清理(过期或者大小太大),设置为compact。delete操作还会执行,compact是会开启清理线程,清理消息(key相同的消息,保存最新的key)

log.cleaner.backoff.ms:清理日志时间间隔

log.cleaner.dedupe.buffer.size:清理日志时允许的内存空间

log.cleaner.delete.retention.ms:压缩后,待删除的日志保留时间

log.cleaner.enable:是否开启日志清理

log.cleaner.io.buffer.load.factor:

log.cleaner.io.buffer.size:IO缓存区

log.cleaner.io.max.bytes.per.second:IO速度

log.cleaner.min.cleanable.ratio:

log.cleaner.threads:日志清理线程数

#消息设置

log.message.timestamp.difference.max.ms:消息时间戳和接收到时间差别太大抛弃

log.message.timestamp.type:`CreateTime` or `LogAppendTime`

message.max.bytes:每条消息最大长度

#服务性能相关

num.io.threads:执行文件IO的线程 默认8个

num.network.threads:处理网络的线程 默认3个

queued.max.requests:队列最大缓冲请求

socket.receive.buffer.bytes:socket接受buffer大小

socket.request.max.bytes:请求最大字节数

socket.send.buffer.bytes:socket发送buffer大小

request.timeout.ms:producer收到确认ack超时时间,由broker同步该配置给producer

quota.consumer.default:消费者配额限制,每秒字节数

quota.producer.default:生产者配额限制,每秒字节数

connections.max.idle.ms:连接最大闲置时间

controlled.shutdown.enable:能不能关闭,默认打开

controlled.shutdown.max.retries:关闭重试次数

controlled.shutdown.retry.backoff.ms:

max.connections.per.ip:对一个ip最大连接数

max.connections.per.ip.overrides:

background.threads:执行特定任务的后台线程数量(kafka有个scheduler线程池,定期执行特定任务,比如清理日志,刷盘,保存checkpoint)

controller.socket.timeout.ms:controller对其他broker通信超时时间

num.recovery.threads.per.data.dir:每个数据目录用于启动回复和关闭刷盘的线程数量

#zk设置

zookeeper.connection.timeout.ms:zk连接超时时间

zookeeper.session.timeout.ms:zk session超时时间

zookeeper.set.acl

zookeeper.sync.time.ms

#副本

min.insync.replicas:最小需要同步消息ISR的数量。request.required.acks参数设置为-1时,此参数才生效,

num.replica.fetchers:副本fetch线程的数量

offsets.commit.required.acks:提交commit的ack值(跟生产者的acks类似,commit消息也作为topic存下。疑问:ack=-1,消费者的表现)

replica.fetch.max.bytes:每次副本fetch最大字节数

replica.fetch.min.bytes:最小字节数

replica.fetch.wait.max.ms:最大等待时间(leader计时?还是follower计时)

replica.high.watermark.checkpoint.interval.ms:watermark保存到磁盘的频率

replica.lag.time.max.ms:超过该值没收到副本的请求,移出ISR

replica.socket.receive.buffer.bytes

replica.socket.timeout.ms:最大超时时间,需要设得比replica.fetch.wait.max.ms大

unclean.leader.election.enable:是否从非ISR选举leader,true可能会导致数据丢失

replica.fetch.backoff.ms:fetch错误发生后的睡眠时间

#offset管理

offsets.commit.timeout.ms:提交commit的超时

offsets.load.buffer.size:将commit offset的消息读进内存cache的大小

offsets.retention.check.interval.ms:更新陈旧Offset的频率

offsets.retention.minutes:commit offset保留时间,默认1440

offsets.topic.num.partitions:默认50个partition

offsets.topic.replication.factor:副本数

offsets.topic.segment.bytes:一个segment的大小

offset.metadata.max.bytes:客户端保留offset元信息的最大空间大小

针对comsumer,最大最小超时时间

group.max.session.timeout.ms

group.min.session.timeout.ms

fetch.purgatory.purge.interval.requests,

producer.purgatory.purge.interval.requests

principal.builder.class

©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 210,914评论 6 490
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 89,935评论 2 383
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 156,531评论 0 345
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 56,309评论 1 282
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 65,381评论 5 384
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 49,730评论 1 289
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 38,882评论 3 404
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 37,643评论 0 266
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 44,095评论 1 303
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 36,448评论 2 325
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 38,566评论 1 339
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 34,253评论 4 328
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 39,829评论 3 312
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 30,715评论 0 21
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 31,945评论 1 264
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 46,248评论 2 360
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 43,440评论 2 348

推荐阅读更多精彩内容