【案例】集算器在用友加速大数据报表-九游会登陆
随着业务的发展,用友公司某项目的数据量越来越大。有些查询需要等待的时间也越来越长。我们针对其中一个比较典型场景,用集算器做了查询优化,查询等待时间从90秒缩短到1-2秒,充分体现了集算器的运算效率,使实际项目的查询性能得到大幅提升。
具体的技术方案如下:
原始sql
查询涉及到的数据存储在oracle数据库中,数据量有百万条。原有对应的sql如下:
selecta.paytime 支付时间,
c.parent_party_name 上级公司,
c.child_party_name 公司名称,
b.bank_type_sname 银行类别,
a.outacctname 付款户名,
a.dbtacc 付方账号,
a.crtnam 收方户名,
a.crtacc 收方账号,
a.buss_type 业务类型,
a.trsamt 支付金额
from ebank_log a
left join bd_bank_type b
on a.banktypecode = b.bank_type_code
left join rm_party_relation c
on a.pk_corp = c.child_party_id
and c.party_view_id = ‘1000200700000000003’
where a.trsamt >= 50000
and (length(a.crtnam) <= 4 or proxy =’1′)–对私支付
and instr(c.child_party_code, ‘c00100s’) =1–某省内机构
and a.paytime >= to_date(‘2016-01-01′,’yyyy-mm-dd’)
and a.paytime < to_date(‘2017-02-25′,’yyyy-mm-dd’)
其中ebank_log表100万条数据,bd_bank_type23条,rm_party_relation 43万。sql执行的时间非常慢,后来项目组采用用友内部的bi工具做了优化,仍然需要等待一分半钟。
集算器优化
采用集算器优化的思路是:将数据从数据库中导出成二进制的文件,采用润乾报表5.0 集算器的大报表功能,流式加载数据。
集算器的脚本如下:
a2:采用游标的方式加载较大的表ebank_log。
b1、b2:采用全内存方式加载两个比较小的表。
a3:把游标的关联字段切换成两个较小表的引用记录。
a4:对游标重新构建成需要的字段。
b4:按照条件过滤游标。
a5:返回游标。
报表制作
对应的报表模板如下图:
ds1调用上述集算器脚本,并且设置为大数据集:
最后的查询结果网页如下图:
优化总结
大数据报表之所以能做到快速的响应,是因为采用了集算器的流式异步加载数据的机制:
从上图可以看出,用户请求大报表之后,集算器(大报表引擎)只加载少量数据,形成最初的几页展现给用户。在用户查看这几页数据的时候,集算器同时会加载剩余的数据到二进制文件中,等到用户翻页的时候再从本地二进制文件中读取数据展现。这样既能保证快速的响应,又能避免加载大量数据造成内存溢出。