FunTester 量化模拟线上流量实践

FunTester · 2021年10月14日 · 705 次阅读

在之前的文章分段随机实践—模拟线上流量中,分享了分段模拟的实现,在实际工作中应用这种方法可以对线上流量进行更加精细化的模拟。

今天分享一下实际工作中某个服务模块中的应用。这里选择这个模块的原因两个:大多数都是 GET 接口;参数简单,大部分都是单个参数。

梳理模型

模块模型

对于整个该服务的 PI 接口,可以对于某一段时间的日志统计分析,可以得出各个接口请求流量的比例。或者通过统计服务。也是可以得到。整个接口的流量比例模型。

这里我将流量比例存在一个 map 里面里面,数据如下:

public static final Map<String, Integer> urlsQps = new HashMap<String, Integer>() {{
    put(a, 9502);
    put(b, 6445);
    put(c, 1228);
    put(d, 973);
    put(e, 827);
    put(f, 546);
    put(g, 132);
    put(h, 113);
    put(i, 47);
    put(j, 1);
}};

这里做了一个简单的缩放,将所有的值除以最小值算得的比例。以后会将接口按照流量数量级分成不同的等级,对不同等级的接口分别进行模拟实现。对于日常流量偏小(暂定小于 5QPS)的接口,统一按照日常流量的 20 倍进行固定 QPS 作为基础背景流量。

接口模型

然后对接口的参数进行统计,依然可以通过日志统计(GET 接口均可),获取每个参数的比例。

依旧将数据放在一个 map 中,数据如下:

public static final String BS = "****";
public static final List<String> BS_ARGS = SourceCode.randomMem(new HashMap<String, Integer>() {{
    put("aaa",3);
    put("bbb",2);
    put("ccc",2);
    put("ddd",1);
    put("eee",3);
    put("fff",1);
}});

计算方式同上,这里并未对所有参数进行穷尽,主要原因两个:一个是接口参数分布比较集中,通过少量(前 10 或者前 20)即可达到目的;一个是某些接口的参数是组合式的,如果穷尽太多了,不适合现在业务框架,以后可以做成配置文件。

实践

这里先分享接口流量,再分享服务流量,因为两者有依赖关系。

接口流量

通过框架提供支持,将接口封装成一个方法,暴露相关参数,例如:

/**
 * 获取信息
 * @param instId
 * @return
 */
JSONObject bs(String Id = random(MApi.BS_ARGS)) {
    String url = MApi.BS
    def params = getParams()
    params.instId = instId
    def response = getGetResponse(url, params)
    print(response)
    response
}

通过 random 方法即可将配置MApi#BS_ARGS中的参数按照value比例传到方法M#bs(java.lang.String)中,达到量化模拟线上流量的目的。

模块流量

首先根据项目框架将接口封装,然后根据配置文件MApi#urls中的内容,进行接口请求。

实现如下:

/**
 * 量化模拟全量接口
 */
    public void all() {
        def url = random(MApi.urls)
        if (url == MApi.a) {
            a()
        } else if (url == MApi.b) {
            b()
        } else if (url == MApi.c) {
            c()
        } else if (url == MApi.d) {
            d()
        } else if (url == MApi.e) {
            e()
        } else if (url == MApi.f) {
            f()
        }

    }

依旧是通过random方法,一开始担心性能问题,经过实测,random 性能百万 QPS 没有问题,这里需要的是线程安全,可以多线程使用同一个MApi#urls

Have Fun ~ Tester !

如果觉得我的文章对您有用,请随意打赏。您的支持将鼓励我继续创作!
暂无回复。
需要 登录 后方可回复, 如果你还没有账号请点击这里 注册