k8s informer对账

引言

记得一次面试,被问到通过informer做垃圾回收时,队列中的消息还没处理完,informer的实例发生了重启,如何将丢失的任务处理完

informer流程图

image.png

运行流程

例如现在创建一个 pods,kubelet 中的 controller 是如何运行的(K8s 中源码中也大量使用 client-go,主要是大量的 controller)

初始化并启动 informer,informer 启动会初始化并启动 reflector,reflector 从 kube-apiserver list 所有 pod 资源,并 sync 到 Deltafifo 中。
Deltafifo 存有全部 pod 资源,informer 通过 pop 函数消费 deltafifo 事件并存储到 indexer 中。
如果需要调用 pod 资源,那么可以直接从 indexer 中获取
informer 初始化完成后,Reflector 开始 Watch Pod 相关的事件
如果创建一个 pod,1. 那么 Reflector 会监听到这个事件,然后将这个事件发送到 DeltaFIFO 中
informer pop 消费改 ADD 事件,并将该 pod 存储到 indexer
informer 处理器函数同样拿到该 ADD 事件去处理该事件,通过workqueue获取到事件的key,再通过indexer获取到真正操作的对象
reflector 会周期性将 indexer 数据同步到 Deltafifo,防止一些事件处理失败,重新处理。

由上文的运行流程可知,对于没有来的及处理Add和Update事件,在informer重启时,reflector会从kube-apiserver list所有的事件资源,sync到Deltafifo,并进一步触发Add事件。业务可以根据实际资源的状况进行对账,是进行Add还是Update。
对于没有处理的Delete事件如何处理呢?实际上,k8s资源可能已经清理了,但是实际的资源还有残留,这时候需要在启动informer时,将本地全量资源入到indexer,进一步依赖reflector的周期同步,将资源入到Deltafifio, informer检查到k8s实际上该资源已经不存在了会触发Delete事件。

    indexer, informer := cache.NewIndexerInformer(podListWatcher, &v1.Pod{}, 0, cache.ResourceEventHandlerFuncs{
        AddFunc: func(obj interface{}) {
            key, err := cache.MetaNamespaceKeyFunc(obj)
            if err == nil {
                queue.Add(key)
            }
        },
        UpdateFunc: func(old interface{}, new interface{}) {
            key, err := cache.MetaNamespaceKeyFunc(new)
            if err == nil {
                queue.Add(key)
            }
        },
        DeleteFunc: func(obj interface{}) {
            // IndexerInformer uses a delta queue, therefore for deletes we have to use this
            // key function.
            key, err := cache.DeletionHandlingMetaNamespaceKeyFunc(obj)
            if err == nil {
                queue.Add(key)
            }
        },
    }, cache.Indexers{})
        // 本地数据重入index
    indexer.Add(&v1.Pod{
        ObjectMeta: meta_v1.ObjectMeta{
            Name:      "mypod",
            Namespace: v1.NamespaceDefault,
        },
    })

如上即是,informer启动过程的对账逻辑,可谓精妙。

在删除时,还需要注意:要是k8s资源被清理了,本地资源没有直接的对应关系(无法通过id唯一对应),cr和本地资源的对应关系维护在cr的spec中,这时需要在创建cr时添加finallize进行延迟延迟,只有进行了实际的清理才去移除finallize里的资源项。这样在infromer重启时,还会触发对应资源的add事件(状态为deleting), 调协函数判断是deletetimestep不为空,继续执行删除逻辑。

上文因为要向Index塞入对象,涉及逆向操作,要是不懂其中的同步逻辑会很困惑。informer重启后,针对需要清理的本地对象还有一个处理思路:根据本地资源(入数据库记录),主动检查k8s资源是否存在或者是否删除中(由finallize),不存在或者删除中,即做清理操作。看起来没啥问题,但是这样操作则利用不到队列基础设施的优势,在清理出错时如何处理?(有调协器的话可以重新入队)只能不断重试。

参考:
client-go 架构:https://www.sfernetes.com/client-go-arch/#workqueue
workqueue示例:https://github.com/kubernetes/client-go/blob/master/examples/workqueue/main.go

最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 211,290评论 6 491
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 90,107评论 2 385
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 156,872评论 0 347
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 56,415评论 1 283
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 65,453评论 6 385
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 49,784评论 1 290
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 38,927评论 3 406
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 37,691评论 0 266
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 44,137评论 1 303
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 36,472评论 2 326
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 38,622评论 1 340
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 34,289评论 4 329
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 39,887评论 3 312
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 30,741评论 0 21
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 31,977评论 1 265
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 46,316评论 2 360
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 43,490评论 2 348

推荐阅读更多精彩内容