Chinaunix首页 | 论坛 | 博客

-

  • 博客访问: 4023761
  • 博文数量: 172
  • 博客积分: 0
  • 博客等级: 民兵
  • 技术积分: 1923
  • 用 户 组: 普通用户
  • 注册时间: 2018-12-20 14:57
文章分类
文章存档

2021年(19)

2020年(81)

2019年(68)

2018年(4)

我的朋友

分类: 敏捷开发

2018-12-20 15:01:01

JAVA 应用必须通过 JDBC 从数据库中取数,有时候我们会发现,数据库的负担一点也不重而且 SQL 很简单,但取数的速度仍然很慢。仔细测试会发现,性能瓶颈主要在 JDBC 上,比如 MySQL 的 JDBC 性能就非常差,Oracle 也不好。但是,JDBC 是数据库厂商提供的包,我们在外部没办法提高性能。

可以想到的办法是利用多 CPU 手段采用并行方案来提速,但 Java 的并行程序非常难写,要考虑资源共享冲突等麻烦事务。

 

下面介绍使用集算器的并行技术来提升数据库 JDBC 取数性能,可以避免 JAVA 硬编码的复杂性,还能够方便实现多线程结果集的合并。适用于:

 

  1. 源数据规模较大的查询报表
  2. 多数据集报表
  3. ETL 数据抽取

 

集算器并行配置

 

 

通过集算器进行并行取数前需要配置集算器的并行属性。IDE 中通过菜单“工具 - 选项”设置 IDE 支持的最大并行数量,一般建议最大并行数不要超过 CPU 核数

集算器服务端则需要修改 raqsoftConfig.xml 配置:

 

单表并行取数

 

有时我们查询的某个表数据量较大、时间较长,这时就可以通过集算器针对单表并行取数提升性能。这里所谓的单表是指通过条件并行读取一份(单表)数据。

 

全内存

 

假设内存可以容纳全部要读取的数据,并行取数后再进行下一步运算(全内存的计算速度最快)。

 

举例

 

订单(Orders)有订单 ID,订购日期,订单金额等字段,其中订单 ID 是递增的整数逻辑主键。

 

 

【计算目标】 并行读取某时间段内订单数

 

面向单表(单条 SQL)并行取数需要通过参数将源数据拆分多段,建立多个数据库连接并行查询。往往需要将数据尽可能平均拆分以避免查询时间不均导致任务等待,同时分段参数尽可能建立在索引字段上以保证分段效率。

 

集算器实现

 

集算器参数

 

根据查询时间段建立脚本参数,查询起止日期

 

 

集算器实现

 

分段策略(一)基于索引字段分段

 

基于单表(单 SQL)并行取数前需要进行数据分段,尽量保证每个分段的数据平均。而分段参数尽量基于建立索引的字段(如订单编号)。之所以要使用索引字段来分段,是因为使用索引并不会真地遍历整个表,而是直接定位,当数据量较大时优势明显。

 

集算器脚本

 

编写并行取数脚本,这里按照建立索引的订单编号进行分段:

 

image.png 

 

 

脚本解析:

 

1、A2 根据查询起止日期获得最大订单编号和最小订单编号,用于后面分段

 

2、B2-C2 将最小订单号和最大订单号分别赋值给变量 b 和 e

 

 

3、A3 设置并行数,使用并行取数前应检查集算器的并行数配置以及授权中对并行数量的许可

 

4、A4-A5 根据起止订单编号和并行数计算每个并行任务的起止分段参数(序列)

 

 

5、通过 fork 启动多个(4 个)线程,参数为分段起止参数序列,这里可以看到 fork 启动的线程数与参数序列成员数相同。在集算器中,经常将序表、序列作为参数值参与运算,非常方便

 

6、B7 为每个线程(子任务)建立数据库连接,需要注意连接必须在 fork 子句中建立,以便为多线程分别使用,若共用一个连接无法起到加速取数的效果,数据库会自动把同一连接上的多个请求改为串行执行。因此只有当数据库负担不重,有足够多连接可用时才可以使用并行取数提升性能

 

 

7、B8 分别查询每个分段数据,查询结果返回到 A6 格。这里 fork 子句直接返回查询结果(子句最后一行),如果想返回其中某个或某几个计算值可以显示使用 return 关键字返回子线程计算结果

8、返回结果的 A6 格结果,4 个线程返回 4 个结果集

9、A9 合并所有子线程查询结果,以便进行下一步计算

基于索引字段进行数据分段,并且数据分段比较平均时,使用多线程并行查询数据库几乎可以获得线程数倍(线性)的性能提升。

分段策略(二)基于非索引字段分段

 

如果数据库负担不重时,也可以基于非索引字段进行分段(如日期),相对 JDBC 取数时间,多次遍历库表时间也并不是很大,而这样做的好处是不需要事先查询数据库以确定起止段界(如最大最小订单编号)。

 

集算器脚本

image.png

脚本解析:

 

与上述使用索引字段订单 ID 分段不同,这里使用非索引字段订购日期进行分段。设起止日期为:2012-01-01 和 2015-12-31。

1、A2 计算起止日期查询参数间隔天数,用于分段;interval 函数还可以计算年、季度、月、时、分、秒等间隔,用于日期时间处理很方便

2、A3-A5 根据并行数和日期间隔计算分段起止参数序列

3、A6 根据参数序列启动多线程,B8 完成查询并将结果返回到 A6 格,A9 合并查询结果

分段策略(三)并行线程数多于 CPU 核数

 

前面我们提到:建议并行任务数不要超过 CPU 核数,因为更多的任务数并不会增加并行度,而且还可以避免 CPU 进行线程切换带来的额外时间开销。但有时也可以将任务数设置到远大于 CPU 核数,可以设置为 CPU 核数的倍数个,这样多 CPU 负载也可以达到动态平衡,而且某些计算还可以简化分段。如上述例子中,若只查询某一年数据就可以把线程数设置为 12(月),从而简化分段。

 

集算器提供了多线程任务动态平衡机制,当任务数大于并行数配置时,集算器会自动为计算结束的线程分配下一个任务,这时可以保证某个线程会多跑几个小任务,另一个线程只跑少量大任务,达到总体平衡,而不必拘泥于必须把数据量平均分配。

 

集算器脚本

image.png

脚本解析:

 

1、A1 根据 1 到 12 的序列启动 12 个线程

2、B3 每个线程查询一个月的数据并返回结果到 A1

 

关于 fork 语句

在集算器中,通过 fork 语句可以启动多个线程实施并行计算,而且集算器还提供了多种 merge 函数可以很方便合并并行结果,十分方便。

外存

 

有时某一条语句(一个表)的数据量较大,分段后并行子任务仍然无法全部加载到内存中,这时需要使用集算器提供的外存计算机制,基于游标查询数据。

举例

 

沿用上面的例子,假设分段后的数据量很大需要使用游标分批读取处理数据。

 

集算器实现

image.png

脚本解析:

1、B8 建立数据库游标,查询并不真正取数,多个游标返回到 A6 格

 

2、A9 合并多路游标,接下来就可以当做一个游标继续使用

3、A10 基于游标,将查询数据分批写入文件中。因为各个线程的运行速度无法保证规律性,所以基于多线程导出数据时次序不可控,对数据顺序有要求时不能使用这个方法。

 

基于外存游标并行查询与全内存方式非常类似,当内存资源较紧张时可以通过外存计算的方式减少内存占用。

多表并行取数

除了通过条件针对单条 SQL(单表)进行并行取数外,在一些多 SQL 查询场景(如报表多数据集)下仍然可以通过并行同时执行多条语句进行取数。

举例

有多个查询 SQL 基于多个表查询数据,需要提升查询性能。

【计算目标】 并行读取 5 个表数据,并完成关联

这里我们使用 5 条非常简单(基于单表)的查询 SQL,实际业务中多条SQL 可以任意复杂

集算器实现

image.png

脚本解析:

1、A2-A6 为查询用 SQL 语句串

2、A7 根据多条 SQL 组成序列启动多线程(5 个)

3、B9 每个线程执行 SQL 查询数据将结果返回到 A7 格(5 个结果集组成的序列)

4、A10-C11 通过序号分别获取 5 个结果集

5、为了保证完整性,A12-A14 对 5 个结果集进行关联并通过外键属性化的方式创建结果序表

以上是集算器并行取数的部分示例,事实上集算器还可以做更复杂的并行计算和结果归并。集算器多线程并行的意义在于使用简单、成本低,相对 JAVA 复杂的多线程编程集算器可以简单到几行脚本,相对数据库集群方案集算器的成本更加可控,而且即使部署数据库集群仍然可以使用集算器加速集群单个数据库节点的取数速度。


阅读(2351) | 评论(0) | 转发(0) |
0

上一篇:没有了

下一篇:如何用外部程序优化SQL语句中的IN和EXISTS

给主人留下些什么吧!~~