海纳百川fengzhanhai.blog.chinaunix.net

做一枚有态度/懂开发的DBA

  • 博客访问: 3347336
  • 博文数量: 357
  • 博客积分: 2173
  • 博客等级: 上尉
  • 技术积分: 7625
  • 用 户 组: 普通用户
  • 注册时间: 2011-08-24 17:26
  • 认证徽章:
个人简介

2017希望宝贝女儿健康、快乐成长

文章存档

2017年(33)

2016年(49)

2015年(54)

2014年(49)

2013年(77)

2012年(95)

微信关注

IT168企业级官微



微信号:IT168qiye



系统架构师大会



微信号:SACC2013

订阅
热词专题

分类: DB2/Informix

 一、什么是并行处理

数据库中的并行处理(Parallel Processing In Database),往往容易让人理解为众所周知的并发处理(Concurrent Processing)。从中文的字面意思来看,二者似乎并没有什么区别,但事实上,他们并不是一回事,并发处理只是并行处理的一个方面。

并行处理,指的是在数据库系统中,多个任务在某段时间内同时运行。从不同层次来看,有应用程序 / 事务之间的并行处理、应用 / 事务内部不同数据库分区间的并行处理,以及数据库分区内部的并行处理。

通常来说,不同应用程序 / 事务的并行处理,被称作并发处理。数据库中的并发处理(也叫并发控制,Concurrent Control),指的是在一个数据库系统中,多个事务(Transactions)能够同时运行。一般而言,这些同时运行的事务是通过数据库中的锁机制(Locking Mechanism)和隔离级(Isolation Level)别来实现彼此之间的独立、隔离,从而保证数据的完整性和有效性。

例如,事务 1 在对表 T1 进行更新的同时,事务二在对表 T1 进行查询。根据业务的需要,可以对查询设置不同的隔离级别,在互不影响的前提下,两个事务都能完成得到相应的结果。并发处理和控制是关系型数据库的重要特征和功能之一。关于事务、隔离级别,有很多相应的文档和教程,因此本文不针对这部分内容进行讨论。如果读者需要了解这部分内容,请参考参考资源部分关于这方面内容的文章。

同时,在一个事务内部,为了更快地处理数据,数据库系统也可以有并行处理。例如,我们提交一个查询(Query)给数据库,在这个查询的执行中需要对一个表进行全表扫描(Full Table Scan),如果该数据库处于数据库分区环境中,那么该表的数据将会按照一定规则分布在不同的数据库分区中,对于不同数据库分区中数据的访问是可以同时进行的,因此该全表扫描的任务会被拆分成为数据库分区个数的子任务,分发给各个数据库分区,各分区独立地同时运行自己的子任务,这就是上文提到的数据库分区间的并行处理。

在一个数据库分区(数据库分区环境下的一个数据库分区,或者非数据库分区环境下的普通数据库)内部,一个任务也可以被拆分成若干子任务。数据库管理器(Database Manager)可以把任务拆分成若干逻辑独立的子任务,并将各个子任务交给不同的子进程或者子线程,让这些子进程 / 线程同时执行这些子任务,在所有子任务都完成之后,把这些进程或者线程的处理结果组装在一起,进行后续处理。这类的并行处理,正是本文要讨论的重点。

二、DB2事务内部的并行处理

DB2 LUW 中,事务内部的并行处理分为两类,一类是数据库分区之间的并行处理(Inter-Partition Parallel Processing),另一类是数据库分区内的并行处理(Intra-Partition Parallel Processing)。这里的分区(Partition),指的是 DB2 数据库分区(Data Partition FeatureDPF)环境下的数据库分区,而不是分区表(Range Partition Table)的数据分区(Data Partition)。在澄清了这一点之后,这两类并行处理就很容易区分和理解了。

三、数据库分区之间的并行处理

在数据库分区(Data Partition FeatureDPF)环境下,通常来说,一张表中的数据会被数据库存放在不同的数据库分区(也称作数据库节点,Database Nodes)。而 DB2 中的 DPF 环境是一种无共享的环境(Share Nothing Environment),也就是说不同的数据库分区之间并没有共享存储,因此,DPF 环境下一个表的不同部分是独立存在于不同的数据库分区之中的。这样的分布存储,为数据库分区间的并行处理创造了天然条件。

还是之前的例子,对于一个需要进行表扫描的查询而言,在 4 个数据库分区的 DPF 环境下,该扫描工作就会被分割成为对于该表的 4 个扫描任务,分别同时运行在这 4 个数据库分区上,在这 4 个扫描任务都完成之后,DB2 将结果组装在一起,返回给用户,或者进行下一步处理。

四、数据库分区内部的并行处理

DPF 环境下的单个数据库分区中,或者非 DPF 环境下的数据库中,同样存在的并行处理,只不过这一类的并行处理并不像数据库分区之间的并行处理那么简单。数据库分区之间的相对独立,为数据库分区之间的并行处理提供了天然有利的前提条件,一个任务的分解与分配都是基于数据库分区的特征由数据库管理器(Database ManagerDBM)自己完成的。然而,在数据库分区内部,并行处理并不是天然存在的,这一特性需要用户来配置和维护。

五、DB2 的进程模型和并行处理机制

在介绍如何配置和使用 DB2 的数据库分区内部并行处理特性之前,有必要了解其实现机制,这就不得不从 DB2 的进程模型说起。

DB2 V9.1 开始,DB2 使用了线程取代了之前的进程实现。关于详细的 DB2 进线程模型,请读者参考本文末尾处参考资源的相关内容。在众多的 DB2 线程中,与数据库分区内并行处理相关的线程是 db2agentdb2agntp db2agntadb2agent 是用来接收并处理用户请求的,在一个 DB2 客户端(Client)程序连接到 DB2 的时候,数据库管理器会将该连接与一个 db2agent 线程相关联,而后,该客户端程序的所有任务请求都由该 db2agent 线程来处理。通常而言,在单一数据库分区的环境下,未启用数据库分区内的并行处理特性时,db2agent 自己去请求并完成全部任务,例如编译 SQL 语句,对语句进行优化并生成访问计划(Access Plan)以及执行访问计划,返回结果等;在启用了数据库分区内的并行处理后,db2agent 在执行 SQL 语句的访问计划时,并不会自己去执行相应的操作,而会按照访问计划中的内容,将该任务的子任务分发(Dispatch)给子代理线程(Sub-agent),由子代理线程去执行,最后,db2agent 线程将各个子代理线程的结果进行汇总,返回给客户端程序或者进行下一步处理。一个子代理进程处于空闲状态时,它被命名为 db2agnta;在 db2agent 分配子任务给一个空闲的子代理线程(也就是 db2agnta)之后,该子代理线程进入正在执行状态,线程名就变为 db2agntp。在一个 db2agntp 执行完相应的指令之后,会进入空闲状态,线程名将被改为 db2agnta。在未启用数据库分区内的并行处理特性的环境中,只有 db2agent 线程,没有 db2agnta db2agntp 线程。

要查看 DB2 中的线程信息,可以使用如下的 db2pd 命令:db2pd -edus

六、使用数据库分区内并行

在介绍如何配置实用数据库分区内单一查询的并行处理之前,先引入查询并行度(Degree of Parallelism)的概念。查询并行度是一个数字,指的是一个查询在一个数据库分区内并分割成为的子任务的个数。例如,一个查询在数据库节点 0 上的并行度是 6,指的是该查询在该数据库分区上运行的部分将被分成 6 个独立的、可同时执行的子任务。

要配置使用 DB2 数据库分区内的并行处理特性,首先,要在数据库实例的配置参数中打开 INTRA_PARALLEL 这一选项,这意味着该实例启用了数据库分区内部并行处理的功能,查询可以被分割成并行处理的子任务。

1. 启用数据库分区内的并行处理

 => db2 UPDATE DBM CFG USING INTRA_PARALLEL YES

 DB20000I  The UPDATE DATABASE MANAGER CONFIGURATION command completed

 successfully.

由于这是一个数据库实例级别(Instance Level)的配置参数,如果该实例下的任意数据库处于活动状态,在更新后需要重新启动数据库才能生效。在缺省状态下,该配置参数是关闭(NO),在执行查询是不会启用数据库分区内的并行处理特性。因此,要启用数据分区内的并行处理特性,必须显示打开该参数。

第二步,设置数据库实例参数最大查询并行度(MAX_QUERY_DEGREE),如清单 3 所示:

2.. 设置最大查询并行度(可选)

 => db2 UPDATE DBM CFG USING MAX_QUERYDEGREE 16

 DB20000I  The UPDATE DATABASE MANAGER CONFIGURATION command completed

 successfully.

顾名思义,该参数为数据库分区内部查询并行度的最大值,任何一个查询都不能被拆分成为超过该数值数量的子任务。这个参数的设置是可选的,其默认值是 -1(或者 ANY),也就是说在启用了数据库分区内的并行处理特性之后,系统将由优化器来决定并行度。

第三步,设置数据库参数缺省查询并行度(DFT_DEGREEDefault Degree of Parallelism

3. 设置缺省查询并行度(可选)

 => db2 UPDATE DB CFG FOR TESTDB USING DFT_DEGREE 8

 DB20000I  The UPDATE DATABASE CONFIGURATION command completed successfully.

该参数指定了查询在一个分区内的缺省并行度,在查询中没有指定并行度的时候,该参数会被用作为并行度。该参数的默认值是 1,也就是说任何查询在缺省状态下是不会被并行运行的。该参数除了可以被设置为一个整数之外,还可以设置成 ANY,这时候,查询的并行度由优化器来决定。

接下来,就是对于查询指定并行度了。对于静态 SQLStatic SQL),可以在 PREP BIND 命令指定 DEGREE 参数;对于动态 SQL,可以设置变量 CURRENT DEGREE。对于静态 SQL 和动态 SQL 的相关概念,请读者查询相应的文档,此处不再赘述,仅以动态 SQL 为例。

4. 设置 CURRENT DEGREE 变量

 => db2 SET CURRENT DEGREE \'4\'

 DB20000I  The SQL command completed successfully.

5. 检查 CURRENT DEGREE 变量

 => db2 VALUES CURRENT DEGREE

4   

  1 record(s) selected.

一个查询的并行度在编译器对该语句进行优化时确定,并记录在访问计划(Access Plan)中。要检查一个查询被拆分成为多少个子任务,可以使用 db2expln 工具将其访问计划格式化并输出,进而就能看到该查询被执行时的并行度了。

总结

在多处理器(Multiple Processors)环境下,使用数据库分区内的并行处理特性,能大大提高 CPU 的利用率,进而提高数据库查询的性能。通常来说,在 DB2 中,启用 INTRA_PARALLEL 之后,其他配置均采用默认值(MAX_QUERY_DEGREE -1 ANYDFT_DEGREE -1 ANY),即可使系统达到最优状态。在某些情况下,如果 DB2 的并行性能未能达到最优,可根据数据分布特性、查询的特征等手工配置相应的并行度,使查询性能得到优化。

阅读(7102) | 评论(2) | 转发(1) |
给主人留下些什么吧!~~

fengzhanhai2014-12-30 09:53:13

a594007234:同样,禀赋最优良的,精力最旺盛的,最可能有所成就的人,如果经过教育学会了他们应当怎样做人的话,就能成为最优良、最有用的人,因为他们能够做出极多、极大的业绩来;但如果没有受过教育而不学无术的话,那他们就会成为最不好、最有害的人,因为由于不知应该选择做什么,就往往会插手于一些罪恶的事情,而且由于狂傲激烈,禀性倔强,难受约束,就会做出很多很大的坏事来。世界上最快乐的事,莫过于为理想而奋斗。哲学家告诉我们,“为善至乐”的乐,乃是从道德中产生出来的。为理想而奋斗的人,必能获得这种快乐,因为理想的本质就含有道德的价值。世界上最快乐的事,莫过于为理想而奋斗。哲学家告诉我们,“为善至乐”的乐,乃是从道德中产生出来的。为理想而奋斗的人,必能获得这种快乐,因为理想的本质就含有道德的价值。

文明上网,理性发言...

回复 | 举报

a5940072342014-12-29 15:03:51

同样,禀赋最优良的,精力最旺盛的,最可能有所成就的人,如果经过教育学会了他们应当怎样做人的话,就能成为最优良、最有用的人,因为他们能够做出极多、极大的业绩来;但如果没有受过教育而不学无术的话,那他们就会成为最不好、最有害的人,因为由于不知应该选择做什么,就往往会插手于一些罪恶的事情,而且由于狂傲激烈,禀性倔强,难受约束,就会做出很多很大的坏事来。世界上最快乐的事,莫过于为理想而奋斗。哲学家告诉我们,“为善至乐”的乐,乃是从道德中产生出来的。为理想而奋斗的人,必能获得这种快乐,因为理想的本质就含有道德的价值。世界上最快乐的事,莫过于为理想而奋斗。哲学家告诉我们,“为善至乐”的乐,乃是从道德中产生出来的。为理想而奋斗的人,必能获得这种快乐,因为理想的本质就含有道德的价值。

评论热议
请登录后评论。

登录 注册