聊聊如何利用Testcontainers进行集成测试

前言

1、何为Testcontainers?

Testcontainers是一个库,它为引导本地开发和测试依赖关系提供了简单而轻量级的API,并将真实的服务封装在Docker容器中。使用Testcontainers,您可以编写依赖于您在生产中使用的相同服务的测试,而不需要mock或内存服务。

用比较直白的话就是testcontainers 能够让你实现通过编程语言去启动Docker容器,并在程序测试结束后,自动关闭容器

2、Testcontainers有哪些优势?

  • 每个Test Group都能像写单元测试那样细粒度地写集成测试,保证每个集成单元的高测试覆盖率。
  • Test Group间是做到依赖隔离的,也就是说它们不共享任何一个Docker容器。
  • 保证了生产环境和测试环境的一致性,代码部署到线上时不会遇到因为依赖服务接口不兼容而导致的bug 。
  • Test Group可以并行化运行,减少整体测试运行时间。相比较有些 in-memory的依赖服务实现没有实现很好的资源隔离,比如端口,一旦并行化运行就会出现端口冲突 。
  • 得益于Docker,所有测试都可以在本地环境和
    CI/CD环境中运行,测试代码调试和编写就如同写单元测试。
  • 支持市面上主流的语言以及平台,比如java、go、python等

3、使用Testcontainers有哪些注意点

  • Testcontainers基于Docker,所以使用Testcontainers前需要依赖Docker环境。
  • Testcontainers 提供的环境不能应用于生产环境、只能用于测试环境等场景

4、Testcontainers连接docker的策略

Testcontainers在运行时将会尝试按如下顺序使用以下策略连接到 Docker 守护程序:

环境变量:
– DOCKER_HOST
– DOCKER_TLS_VERIFY
– DOCKER_CERT_PATH

每个变量的作用:

  • DOCKER_HOST to set the url to the docker server.
  • DOCKER_CERT_PATH to load the tls certificates from.
  • UseDOCKER_TLS_VERIFY to enable or disable TLS verification.

默认值
DOCKER_HOST=https://localhost:2376
DOCKER_TLS_VERIFY=1
DOCKER_CERT_PATH=~/.docker

我们可以通过环境变量修改以上值,示例

System.setProperty("DOCKER_HOST","tcp://192.168.0.1:2375")

注: 通过程序修改,我们必须确保System.setProperty,在Testcontainers启动容器之前就已经设置,否则无法生效

以上内容可以在官网https://java.testcontainers.org/supported_docker_environment/查到更详细的介绍

下面就以Testcontainers集成redis,并通过junit5进行单元测试为例进行演示

示例

1、项目中pom引入junit5 gav

 <properties>
        <junit-platform.version>1.9.2</junit-platform.version>
        <junit-jupiter.version>5.9.2</junit-jupiter.version>
    </properties>

  <dependency>
            <groupId>org.junit.jupiter</groupId>
            <artifactId>junit-jupiter-engine</artifactId>
            <version>${junit-jupiter.version}</version>
            <scope>test</scope>
        </dependency>
        <dependency>
            <groupId>org.junit.jupiter</groupId>
            <artifactId>junit-jupiter-api</artifactId>
            <version>${junit-jupiter.version}</version>
            <scope>test</scope>
        </dependency>
        <dependency>
            <groupId>org.junit.vintage</groupId>
            <artifactId>junit-vintage-engine</artifactId>
            <version>${junit-jupiter.version}</version>
            <scope>test</scope>
        </dependency>

        <dependency>
            <groupId>org.junit.platform</groupId>
            <artifactId>junit-platform-commons</artifactId>
            <version>${junit-platform.version}</version>
            <scope>test</scope>
        </dependency>

注: 如果使用高本版的springboot,则可以直接引入

<dependency>
            <groupId>org.springframework.boot</groupId>
            <artifactId>spring-boot-starter-test</artifactId>
            <scope>test</scope>
        </dependency>
          <dependency>
            <groupId>org.junit.platform</groupId>
            <artifactId>junit-platform-commons</artifactId>
            <version>${junit-platform.version}</version>
            <scope>test</scope>
        </dependency>

即可

2、项目中pom引入testcontainers gav

<properties>     
<testcontainers.version>1.17.3</testcontainers.version>
    </properties>
  <dependency>
            <groupId>org.testcontainers</groupId>
            <artifactId>testcontainers</artifactId>
            <version>${testcontainers.version}</version>
        </dependency>
        <dependency>
            <groupId>org.testcontainers</groupId>
            <artifactId>junit-jupiter</artifactId>
            <version>${testcontainers.version}</version>
            <scope>test</scope>
        </dependency>

当然也需要引入redis客户端 gav,因为这个大家应该都知道,就不介绍了

3、在我们的单元测试中,让testcontainers运行redis容器

示例代码如下

  @Container
    private static GenericContainer<?> redis = new GenericContainer<>(DockerImageName.parse("redis:6.2.6"))
            .withExposedPorts(6379);

上面的代码的意思是创建镜像为redis:6.2.6容器,并将6379端口暴露出来

同时在测试类上,需要添加@Testcontainers(disabledWithoutDocker = true)
注解

@Testcontainers(disabledWithoutDocker = true)
public class RedisTest {
 @Container
    private static GenericContainer<?> redis = new GenericContainer<>(DockerImageName.parse("redis:6.2.6"))
            .withExposedPorts(6379);
}

4、将我们业务程序能和容器集成

private Jedis jedis;

    @BeforeEach
    public void setUp() {

        int port = redis.getMappedPort(6379);
        jedis = new Jedis(redis.getHost(), port);
    }

5、运行单元测试

@Testcontainers(disabledWithoutDocker = true)
public class RedisTest {

    @Container
    private static GenericContainer<?> redis = new GenericContainer<>(DockerImageName.parse("redis:6.2.6"))
            .withExposedPorts(6379);


    private Jedis jedis;

    @BeforeEach
    public void setUp() {

        int port = redis.getMappedPort(6379);
        jedis = new Jedis(redis.getHost(), port);
    }

    @AfterEach
    public void tearDown() {
        if (jedis != null) {
            jedis.close();
        }
    }

    @Test
    public void testRedisConnectionAndSetAndGet() {
        // 测试连接和简单存取
        String key = "testKey";
        String value = "testValue";

        jedis.set(key, value);
        String result = jedis.get(key);

        assert result.equals(value);
    }

我们可以先观察一下docker容器,可以发现redis容器已经成功运行


298e890fadc218042145fa064fb8b3f3_1fb9dbfee5bd974c75e938ccee68aa4d.png

再观察一下单元测试结果,和我们预期一样


c2f5ff87e53f1053f0e2b6c3cd97bd1a_f30b5614bcff309a089d10c898ba8fda.png

单元测试结束后,我们再看下容器


1cf5bbc18d613ca67a6e1abbc99a183b_e6f58f8a993530fd042efdb04e7a618c.png

发现容器已经销毁

上述的例子在官网也有详细教程,可以查看如下链接
https://java.testcontainers.org/quickstart/junit_5_quickstart/

目前我们项目基本都是和springboot集成,接下来我们简单演示一下testcontainers、springboot、redis集成

完整例子如下

@SpringBootTest(classes = TestcontainersApplication.class,webEnvironment = SpringBootTest.WebEnvironment.NONE)
@Testcontainers(disabledWithoutDocker = true)
public class RedisContainerByDynamicPropertySourceTest {

    @Autowired
    private StringRedisTemplate redisTemplate;

    @Container
    private static GenericContainer<?> redis = new GenericContainer<>(DockerImageName.parse("redis:6.2.6"))
            .withExposedPorts(6379);

//    @BeforeEach
//    public void setUp() {
//
//        System.setProperty("spring.redis.host", redis.getHost());
//        System.setProperty("spring.redis.port", redis.getMappedPort(6379).toString());
//    }

    /**
     * Spring TEST 5.2.5才引入DynamicPropertySource
     * @param registry
     */
    @DynamicPropertySource
    private static void registerRedisProperties(DynamicPropertyRegistry registry) {
        registry.add("spring.redis.host", redis::getHost);
        registry.add("spring.redis.port", () -> redis.getMappedPort(6379)
                .toString());
    }

    @Test
    public void testRedisConnectionAndSetAndGet() {
        // 测试连接和简单存取
        String key = "testKey";
        String value = "testValue";
        redisTemplate.opsForValue().set(key, value);
        String result = redisTemplate.opsForValue().get(key);

        assert Objects.equals(result, value);
    }
}

核心的代码是

  @DynamicPropertySource
    private static void registerRedisProperties(DynamicPropertyRegistry registry) {
        registry.add("spring.redis.host", redis::getHost);
        registry.add("spring.redis.port", () -> redis.getMappedPort(6379)
                .toString());
    }

这个注解是spring5.2.5之后才有,当你事先不知道属性的值时,通过@DynamicPropertySource和DynamicPropertyRegistry 搭配可以实现动态属性绑定。详细介绍可以查看spring官网
https://docs.spring.io/spring-framework/reference/testing/testcontext-framework/ctx-management/dynamic-property-sources.html

注: 如果springboot版本比较低,则需要在项目pom引入如下gav,才能使用DynamicPropertySource

  <spring.version>5.2.15.RELEASE</spring.version>
  <dependency>
            <groupId>org.springframework</groupId>
            <artifactId>spring-test</artifactId>
            <version>${spring.version}</version>
            <scope>test</scope>
        </dependency>
        <dependency>
            <groupId>org.springframework</groupId>
            <artifactId>spring-core</artifactId>
            <version>${spring.version}</version>
            <scope>test</scope>
        </dependency>

查看单元测试结果


0f04376bee8eeb25252f64dfc4e5256b_e0136412abed32bda29849acbae8af18.png

在使用Testcontainers踩到的坑

注: 因为我window没开启虚拟化,因此没法安装docker desktop。因此我的示例都是连接远程服务器进行测试

因为要连接到远程的docker服务器,因此需要开启2375端口。开启步骤如下

vim /usr/lib/systemd/system/docker.service
将默认的
ExecStart=/usr/bin/dockerd -H unix://var/run/docker.sock \

修改为如下

ExecStart=/usr/bin/dockerd -H fd:// --containerd=/run/containerd/containerd.sock -H tcp://0.0.0.0:2375

直接追加就行,很多网上都是写

ExecStart=/usr/bin/dockerd -H tcp://0.0.0.0:2375 -H unix://var/run/docker.sock \

这么写会报错。修改后,执行

 systemctl daemon-reload
 service docker restart 

通过

ps -ef | grep docker

查看2375端口是否开启


5b6e0cd10c8ae61d2768bc07a6a0422c_f44f8fbefd1a9c12f93ac038b5254e2b.png

被挖过矿的朋友应该会知道,很多宿主机就是因为公网暴露2375端口,结果被当成矿机。因此可以通过ssh工具创建隧道,通过隧道访问。示例


ba1ee3f9f2fd64e5c0a404029ecd2e46_bb1e2ce5c627accb7fd439d31f4beaae.png

不过我这边也是因为通过隧道访问,导致后面非常繁琐

开始讲解坑点

坑一:Testcontainers无法连接到远程docker

一开始我是通过

System.setProperty("DOCKER_HOST","tcp://192.168.0.1:2375")

进行设置,因为我设置的点比Testcontainers创建容器的时间晚,因此导致Testcontainers连接的是本地docker,因为我本地没安装docker,导致无法连接上。

我们可以通过在idea上设置


e243f754b2b619e1062f74fb07eef0f9_5dd90ade656c0b03bc9549640b9d8bda.png

不过有个博主更厉害,他直接通过代码修改。修改代码内容如下

注: 项目的pom需引入如下GAV

<dependency>
            <groupId>com.github.docker-java</groupId>
            <artifactId>docker-java</artifactId>
            <version>3.2.13</version>
        </dependency>
/**
 * testContainer的docker自定义连接策略
 */
@Slf4j
public class MyDockerClientProviderStrategy extends DockerClientProviderStrategy {

    private final DockerClientConfig dockerClientConfig;

    private static final String DOCKER_HOST = "tcp://127.0.0.1:2375";

    /**
    * 初始化的时候配置dockerClientConfig,我们通过docker-java来连接docker
    */
    public MyDockerClientProviderStrategy() {
        DefaultDockerClientConfig.Builder configBuilder = DefaultDockerClientConfig.createDefaultConfigBuilder();
        configBuilder.withDockerHost(DOCKER_HOST);
        //通过如下配置:关闭RYUK,解决Could not connect to Ryuk at localhost
        System.setProperty("TESTCONTAINERS_RYUK_DISABLED","true");
//      // 开启dockerTLS校验
//        configBuilder.withDockerTlsVerify(true);
//        // 密钥所在文件夹,换到你的项目目录中即可
//        configBuilder.withDockerCertPath("C:\\Users\\Administrator\\Desktop\\docker");

        dockerClientConfig = configBuilder.build();
    }

    /**
    * 这里定义docker连接配置
    */
    @Override
    public TransportConfig getTransportConfig() {
        return TransportConfig.builder()
                .dockerHost(dockerClientConfig.getDockerHost())
                .sslConfig(dockerClientConfig.getSSLConfig())
                .build();
    }

    /**
    * 对应上面第二个filter,固定返回true即可。
    */
    @Override
    protected boolean isApplicable() {
        return true;
    }

    @Override
    public String getDescription() {
        return "my-custom-strategy";
    }
}

在src/main/resources创建META-INF/services/org.testcontainers.dockerclient.DockerClientProviderStrategy
文件内容如下

com.github.lybgeek.testcontainers.MyDockerClientProviderStrategy

其实就spi机制。那个博主的文章内容如下,感兴趣的朋友可以看看
https://blog.csdn.net/LHFFFFF/article/details/127117917

坑二:Could not connect to Ryuk at localhost

我也不懂这个是啥,通过官方的issue
https://github.com/testcontainers/testcontainers-java/issues/3609#issuecomment-769615098
设置

TESTCONTAINERS_RYUK_DISABLED=true

禁用RYUK


6358915fbe91e5d85fac349df817b3d2_9938fb686da9d72105de6c6b06ece8ff.png

关了貌似也没啥影响

坑三:Timed out waiting for container port to open (localhost ports: [] should be listening)

一开始我是通过隧道访问,后面发现每次启动,testcontainer创建的容器端口会变。示例

298e890fadc218042145fa064fb8b3f3_1fb9dbfee5bd974c75e938ccee68aa4d.png

比如是端口32788,再启动会变成32789。后面我就设置一段随机端口的安全组,比如允许30000-40000端口段可以访问。于是问题就暂时解决

总结

本文仅仅只是抛砖引玉,Testcontainers的官网有更多详细的例子,大家感兴趣可以去了解一下
https://testcontainers.com/guides/

demo链接

https://github.com/lyb-geek/springboot-learning/tree/master/springboot-testcontainers

©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 216,591评论 6 501
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 92,448评论 3 392
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 162,823评论 0 353
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 58,204评论 1 292
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 67,228评论 6 388
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 51,190评论 1 299
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 40,078评论 3 418
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 38,923评论 0 274
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 45,334评论 1 310
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 37,550评论 2 333
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 39,727评论 1 348
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 35,428评论 5 343
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 41,022评论 3 326
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 31,672评论 0 22
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 32,826评论 1 269
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 47,734评论 2 368
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 44,619评论 2 354

推荐阅读更多精彩内容