gitlab使用k8s作为runner


这种安装方式,手工化程度高,可能不是很方便,但可以比较清楚的理解gitlab-runner在k8s里的运行细节。
现在我更推荐的方式,是用gitlab-runner chart的方式来安装,这要用到k8s的helm。
在我简书另外的文章里有介绍。
//www.greatytc.com/p/df330130a88c
欢迎提出意见。


经过我上一篇的文章讲解,gitlab就安装好了。接下来,就可以进入更深一层的学习了。前几年,我作CI/CD时,都是将gitlab与jenkins组合。一个源代码管理,一个作软件编译。
现在,都2020了试试不一样的味道------直接使用gitlab自身的CI/CD来作软件的编译,镜像的生成和上传。
此篇,主要讲讲如何将gitlab的runner放在K8s中,意在打通流程。
主要参考URL:
https://www.cnblogs.com/wangxu01/articles/11730920.html

一,在K8S集群中生成专用于CI的namespace。

apiVersion: v1
kind: Namespace
metadata:
  name: kube-ops

gitlab-runner-ns.yaml

二,一个用于注册、运行和取消注册 Gitlab CI Runner 的Token

apiVersion: v1
kind: Secret
metadata:
  name: gitlab-ci-token
  namespace: kube-ops
  labels:
    app: gitlab-ci-runner
data:
  GITLAB_CI_TOKEN: eTJCbzlicGZmanhiV2RUSlZkYmUK

gitlab-runner-token-secret.yaml
那个token的来历:


2020-04-26 19_12_01-Admin Area · GitLab.png
echo "y2Bo9bpffjxbWdTJVdbe" |  base64 -w0
eTJCbzlicGZmanhiV2RUSlZkYmUK

三,在k8s里configmap里存储一个用于注册、运行和取消注册 Gitlab CI Runner 的小脚本

这里用到了第二步里面的token。

apiVersion: v1
data:
  run.sh: |
    #!/bin/bash
    unregister() {
        kill %1
        echo "Unregistering runner ${RUNNER_NAME} ..."
        /usr/bin/gitlab-ci-multi-runner unregister -t "$(/usr/bin/gitlab-ci-multi-runner list 2>&1 | tail -n1 | awk '{print $4}' | cut -d'=' -f2)" -n ${RUNNER_NAME}
        exit $?
    }
    trap 'unregister' EXIT HUP INT QUIT PIPE TERM
    echo "Registering runner ${RUNNER_NAME} ..."
    /usr/bin/gitlab-ci-multi-runner register -r ${GITLAB_CI_TOKEN}
    sed -i 's/^concurrent.*/concurrent = '"${RUNNER_REQUEST_CONCURRENCY}"'/' /home/gitlab-runner/.gitlab-runner/config.toml
    echo "Starting runner ${RUNNER_NAME} ..."
    /usr/bin/gitlab-ci-multi-runner run -n ${RUNNER_NAME} &
    wait
kind: ConfigMap
metadata:
  labels:
    app: gitlab-ci-runner
  name: gitlab-ci-runner-scripts
  namespace: kube-ops

gitlab-runner-scripts-cm.yaml

四, 使用k8s的ConfigMap 资源来传递 Runner 镜像所需的环境变量

要注意CI_SERVER_URL对应的值需要指向我们的 Gitlab 实例的 URL(可以是外网地址,也可以是 Kubernetes 集群内部的 Service DNS 地址,因为 Runner 也是运行在 Kubernetes 集群中的),并加上/cihttp://192.168.1.111:8180/ci )。

apiVersion: v1
data:
  REGISTER_NON_INTERACTIVE: "true"
  REGISTER_LOCKED: "false"
  METRICS_SERVER: "0.0.0.0:9100"
  CI_SERVER_URL: "http://192.168.1.111:8180/ci"
  RUNNER_REQUEST_CONCURRENCY: "4"
  RUNNER_EXECUTOR: "kubernetes"
  KUBERNETES_NAMESPACE: "kube-ops"
  KUBERNETES_PRIVILEGED: "true"
  KUBERNETES_CPU_LIMIT: "1"
  KUBERNETES_CPU_REQUEST: "500m"
  KUBERNETES_MEMORY_LIMIT: "1Gi"
  KUBERNETES_SERVICE_CPU_LIMIT: "1"
  KUBERNETES_SERVICE_MEMORY_LIMIT: "1Gi"
  KUBERNETES_HELPER_CPU_LIMIT: "500m"
  KUBERNETES_HELPER_MEMORY_LIMIT: "100Mi"
  KUBERNETES_PULL_POLICY: "if-not-present"
  KUBERNETES_TERMINATIONGRACEPERIODSECONDS: "10"
  KUBERNETES_POLL_INTERVAL: "5"
  KUBERNETES_POLL_TIMEOUT: "360"
kind: ConfigMap
metadata:
  labels:
    app: gitlab-ci-runner
  name: gitlab-ci-runner-cm
  namespace: kube-ops

gitlab-runner-cm.yaml

五,需要用于k8s权限控制的rbac文件

apiVersion: v1
kind: ServiceAccount
metadata:
  name: gitlab-ci
  namespace: kube-ops
---
kind: Role
apiVersion: rbac.authorization.k8s.io/v1
metadata:
  name: gitlab-ci
  namespace: kube-ops
rules:
  - apiGroups: [""]
    resources: ["*"]
    verbs: ["*"]
---
kind: RoleBinding
apiVersion: rbac.authorization.k8s.io/v1
metadata:
  name: gitlab-ci
  namespace: kube-ops
subjects:
  - kind: ServiceAccount
    name: gitlab-ci
    namespace: kube-ops
roleRef:
  kind: Role
  name: gitlab-ci
  apiGroup: rbac.authorization.k8s.io

gitlab-runner-rbac.yaml

六,最核心的,是这个StatefulSet的yaml,用于在k8s集群里生成gitlab的runner。

这个Yaml里,用于了前端五步生成的相关资源。
相比于参考的URL,我更改了api的版本,label的位置及运行的权限,这是我集群改错来的。

apiVersion: apps/v1
kind: StatefulSet
metadata:
  name: gitlab-ci-runner
  namespace: kube-ops
  labels:
    app: gitlab-ci-runner
spec:
  updateStrategy:
    type: RollingUpdate
  replicas: 1
  selector:
    matchLabels:
      app: gitlab-ci-runner
  serviceName: gitlab-ci-runner
  template:
    metadata:
      labels:
        app: gitlab-ci-runner
    spec:
      volumes:
      - name: gitlab-ci-runner-scripts
        projected:
          sources:
          - configMap:
              name: gitlab-ci-runner-scripts
              items:
              - key: run.sh
                path: run.sh
                mode: 0755
      serviceAccountName: gitlab-ci
      containers:
      - image: gitlab/gitlab-runner:alpine-v12.10.1
        name: gitlab-ci-runner
        command:
        - /scripts/run.sh
        envFrom:
        - configMapRef:
            name: gitlab-ci-runner-cm
        - secretRef:
            name: gitlab-ci-token
        env:
        - name: RUNNER_NAME
          valueFrom:
            fieldRef:
              fieldPath: metadata.name
        ports:
        - containerPort: 9100
          name: http-metrics
          protocol: TCP
        volumeMounts:
        - name: gitlab-ci-runner-scripts
          mountPath: "/scripts"
          readOnly: true
      restartPolicy: Always

gitlab-runner-statefulset.yaml

七,将这些Yaml全部apply到k8s集群

如无意外,gitlab里就可以看到这个runner了。(为了简化,我只生成了一个runner)


2020-04-26 19_27_02-Admin Area · GitLab.png

查看Pod的日志

# kubectl -n kube-ops logs -f gitlab-ci-runner-0

Registering runner gitlab-ci-runner-0 ...
Runtime platform                                    arch=amd64 os=linux pid=6 revision=ce065b93 version=12.10.1
Running in system-mode.                            
                                                   
Registering runner... succeeded                     runner=y2Bo9bpf
Runner registered successfully. Feel free to start it, but if it's running already the config should be automatically reloaded! 
sed: /home/gitlab-runner/.gitlab-runner/config.toml: No such file or directory
Starting runner gitlab-ci-runner-0 ...
Runtime platform                                    arch=amd64 os=linux pid=16 revision=ce065b93 version=12.10.1
Starting multi-runner from /etc/gitlab-runner/config.toml...  builds=0
Running in system-mode.                            
                                                   
Configuration loaded                                builds=0
listen_address not defined, metrics & debug endpoints disabled  builds=0
[session_server].listen_address not defined, session endpoints disabled  builds=0
Checking for jobs... received                       job=8 repo_url=http://192.168.1.111:8180/root/demo.git runner=txTmGMVS
ERROR: Could not create cache adapter               error=cache factory not found: factory for cache adapter "" was not registered
WARNING: Job failed: command terminated with exit code 1  duration=32.862623292s job=8 project=1 runner=txTmGMVS
WARNING: Failed to process runner                   builds=0 error=command terminated with exit code 1 executor=kubernetes runner=txTmGMVS
Checking for jobs... received                       job=10 repo_url=http://192.168.1.111:8180/root/demo.git runner=txTmGMVS
WARNING: Job failed: command terminated with exit code 1  duration=30.368854533s job=10 project=1 runner=txTmGMVS
WARNING: Failed to process runner                   builds=0 error=command terminated with exit code 1 executor=kubernetes runner=txTmGMVS
Checking for jobs... received                       job=12 repo_url=http://192.168.1.111:8180/root/demo.git runner=txTmGMVS
Job succeeded                                       duration=14.880245019s job=12 project=1 runner=txTmGMVS
Checking for jobs... received                       job=13 repo_url=http://192.168.1.111:8180/root/demo.git runner=txTmGMVS
Job succeeded                                       duration=8.795109726s job=13 project=1 runner=txTmGMVS

八,弄个最简的.gitlab-ci.yml尝尝鲜

# This template uses jdk8 for verifying and deploying images
image: maven:3.6.3-jdk-8-slim

stages:
  - package
  - docker
  
package-build:
  stage: package
  script:
    - echo 'hello package build'
    
docker-build:
  stage: docker
  script:
    - echo 'hello docker build'

.gitlab-ci.yml


2020-04-26 19_31_21-docker-build (#13) · Jobs · Administrator _ demo · GitLab.png

九,下一篇,编译软件到Harbor仓库。

。。。未完待续。。。

最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 212,542评论 6 493
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 90,596评论 3 385
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 158,021评论 0 348
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 56,682评论 1 284
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 65,792评论 6 386
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 49,985评论 1 291
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 39,107评论 3 410
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 37,845评论 0 268
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 44,299评论 1 303
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 36,612评论 2 327
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 38,747评论 1 341
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 34,441评论 4 333
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 40,072评论 3 317
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 30,828评论 0 21
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 32,069评论 1 267
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 46,545评论 2 362
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 43,658评论 2 350

推荐阅读更多精彩内容