FunTester 通用池化框架 commons-pool2 实践

FunTester · 2022年05月12日 · 3464 次阅读

最近在学习使用 gRPC 的知识过程中,突然发现了 gRPC 并没有提供一个类似于 HttpClient 连接池管理的功能,所以搜了一下相关资料,然后发现了一个通用的池化框架commons-pool2

从 Go 语言说起

对于池化技术相信大家都经说过,对于 Java 来讲:线程池,对于 HttpClient:连接池。之前我是一直只是使用,第一次见证到池化技术的威力是在学习 Go 语言的 HTTP 接口测试常用的两个库:net/httpfasthttp

下面是net/http创建 HTTP 请求的方法封装:

// Get 获取GET请求
// @Description:
// @param uri
// @param args
// @return *fhttp.Request
func Get(uri string, args map[string]interface{}) *http.Request {
    if args != nil {
        uri = uri + "?" + ToValues(args)
    }
    request, _ := http.NewRequest("GET", uri, nil)
    return request
}

下面是fasthttp的创建 HTTP 请求的方法封装:

func DoGet(url string, args map[string]interface{}) ([]byte, error) {
    req := fasthttp.AcquireRequest()
    defer fasthttp.ReleaseRequest(req) // 用完需要释放资源
    req.Header.SetMethod("GET")
    values := ToValues(args)
    req.SetRequestURI(url + "?" + values)
    resp := fasthttp.AcquireResponse()
    defer fasthttp.ReleaseResponse(resp) // 用完需要释放资源
    if err := FastClient.Do(req, resp); err != nil {
        fmt.Println("请求失败:", err.Error())
        return nil, err
    }
    return resp.Body(), nil
}

其中fasthttp两行:

req := fasthttp.AcquireRequest()
defer fasthttp.ReleaseRequest(req) 

resp := fasthttp.AcquireResponse()
defer fasthttp.ReleaseResponse(resp)

这就是常用的池化技术使用规范,先获取一个,然后用完之后还回去。

据资料显示,两者性能差异最大的原因就是fasthttp采用了对象池化技术。一下勾起我的好奇心,不过并没有采取行动,还以为是 Go 语言的奇技淫巧。后来想曾经想过自己实现一个对象池,后来由于技术不够放弃了,原因是性能测试框架已经满足了设计标准,有了阶段性的成果。

commons-pool2

Apache Commons Pool 库提供了一整套用于实现对象池化的 API,以及若干种各具特色的对象池实现。2.0 版本,并非是对 1.x 的简单升级,而是一个完全重写的对象池的实现,显著的提升了性能和可伸缩性,并且包含可靠的实例跟踪和池监控。

这个是偶然发现的,没想到真实我孤陋寡闻了。既然挂上了 Apache 名字,就知道这是一个非常成熟的框架,所以果断学习起来。首先从 gRPC 的测试代码中剥离。我把使用分成了三部分。

可池化类

首先我们需要一个可以被池化的对象,也可以是一组对象,这里我只分享前者。我写了一个接口com.funtester.base.interfaces.IPooled

package com.funtester.base.interfaces

import org.apache.commons.pool2.PooledObject

interface IPooled {

    PooledObject<IPooled> reInit()

    void destory()

}

池化工厂类

然后我们需要一个池化工厂类,这个类主要解决如何创建可池化对象,如何将池化对象包装成org.apache.commons.pool2.PooledObject,这个是对象池直接存储的对象,还有一个摧毁的com.funtester.funpool.FunPoolFactory#destroyObject方法。

package com.funtester.funpool

import com.funtester.base.interfaces.IPooled
import org.apache.commons.pool2.BasePooledObjectFactory
import org.apache.commons.pool2.PooledObject

/**
 * 可池化工厂类
 */
abstract class FunPoolFactory extends BasePooledObjectFactory<IPooled> {

    abstract IPooled init()

    @Override
    IPooled create() throws Exception {
        init()
    }

    @Override
    PooledObject<IPooled> wrap(IPooled obj) {
        return obj.reInit()
    }

    @Override
    void destroyObject(PooledObject<IPooled> p) throws Exception {
        p.getObject().destory()
        super.destroyObject(p)
    }
}

对象池

这个算是简单的,设置几个常用的配置项,然后创建对象池。

package com.funtester.funpool

import com.funtester.base.interfaces.IPooled
import org.apache.commons.pool2.impl.GenericObjectPool
import org.apache.commons.pool2.impl.GenericObjectPoolConfig

class FunPool {

    private static GenericObjectPool<IPooled> pool = init();

    private static FunPoolFactory factory

    private static GenericObjectPool<IPooled> init() {
        // 连接池的配置
        GenericObjectPoolConfig poolConfig = new GenericObjectPoolConfig();
        // 池中的最大连接数
        poolConfig.setMaxTotal(8);
        // 最少的空闲连接数
        poolConfig.setMinIdle(0);
        // 最多的空闲连接数
        poolConfig.setMaxIdle(8);
        // 当连接池资源耗尽时,调用者最大阻塞的时间,超时时抛出异常 单位:毫秒数
        poolConfig.setMaxWaitMillis(-1);
        // 连接池存放池化对象方式,true放在空闲队列最前面,false放在空闲队列最后
        poolConfig.setLifo(true);
        // 连接空闲的最小时间,达到此值后空闲连接可能会被移除,默认即为30分钟
        poolConfig.setMinEvictableIdleTimeMillis(1000L * 60L * 30L);
        // 连接耗尽时是否阻塞,默认为true
        poolConfig.setBlockWhenExhausted(true);
        // 连接池创建
        return new GenericObjectPool<>(factory, poolConfig);
    }

}

然后我们就可以使用这个对象池了,我定义了两个方法来演示两种常见的场景:

/**
 * 从连接池获取对象
 */
static IPooled get() {
    try {
        return pool.borrowObject();
    } catch (Exception e) {
        e.printStackTrace();
    }
    return factory.create();
}

/**
 * 执行器
 */
static def execute(Closure closure) {
    IPooled client = get();
    try {
        closure(client);
    } finally {
        pool.returnObject(client);
    }
}

当然这个演示的 Demo 是非常不优雅的,而且缺少拓展性,后面我会继续优化。

Have Fun ~ Tester !

如果觉得我的文章对您有用,请随意打赏。您的支持将鼓励我继续创作!
暂无回复。
需要 登录 后方可回复, 如果你还没有账号请点击这里 注册