Chinaunix首页 | 论坛 | 博客
  • 博客访问: 17035
  • 博文数量: 8
  • 博客积分: 0
  • 博客等级: 民兵
  • 技术积分: 10
  • 用 户 组: 普通用户
  • 注册时间: 2014-09-15 13:26
文章分类

全部博文(8)

文章存档

2016年(4)

2015年(3)

2014年(1)

我的朋友

分类: Oracle

2016-05-23 01:14:05

                           Oracle expdp/impdp常用性能优化方法

   expdp/impdp在进行数据迁移时速度极快,通过一定的优化方法,我们让expdp和impdp跑得更加快

1,parallel,在很多oracle的程序中都离不开并行操作,通过利用多core cpu的处理能力,速度增加相
当明显
例:frank用户主要有表T1,T2,T3,每个表中数据有500万行

[oracle@cscscslocalhost abc]$ time expdp frank/frank directory=abc dumpfile=abc.dmp

real    0m41.692s
user    0m0.011s
sys     0m0.032s

[oracle@cscscslocalhost abc]$ time expdp frank/frank directory=abc dumpfile=abc.dmp parallel=3

real    0m26.710s
user    0m0.019s
sys     0m0.007s

速度提升相当明显,如果每个dw进程都使用单独的dmp文件会更快
[oracle@cscscslocalhost abc]$ time expdp frank/frank directory=abc dumpfile=abc%U.dmp parallel=3
real    0m22.928s
user    0m0.017s
sys     0m0.008s

一般建议parall设置不要超过cpu*2.

2,transport_tablespace方法,直接复制表空间文件的方式。使用expdp和impdp只导出了数据字典信息.表空间
要是自包含的

SQL> exec dbms_tts.transport_set_check('USERS',true);

PL/SQL procedure successfully completed.

SQL> select * from transport_set_violations;

no rows selected

transport tablespace的方法是迁移数据最快的方法。因为数据本身是不需要oracle的sql层来处理.但是表空间
在expdp期间要设置成只读状态


3,network_link模式.当数据文件比较大的时候,这时候在目标库上直接通过network_link模式在目标
库上进行导入,而不需要在源库上进行expdp操作,处理方式和正常的expdp/impdmp过程类似。这样做的
好处主要是可以避免了在源库上写大文件,然后还需要移动到目标库上.

dongdongtang> grant datapump_exp_full_database to frank;

Grant succeeded.

目标库
dongdongtang> create database link frank connect to frank identified by frank using 'frank';

Database link created.

[oracle@localhost admin]$ impdp \'/ as sysdba\' network_link=frank schemas=frank

network_link 定义了一个db_link名称,该过程把源端的frank schemas导入到目标库上.


4,使用适当的方法.expdp/impdp包括了两种主要方法direct_path和external_table
使用direct_path会skip掉sql layer,速度会更快,但是不能定义query

[oracle@localhost ~]$ expdp frank/frank dumpfile=abc.dmp query=T1:"where a>5" access_method=direct_path
ORA-39033: Data cannot be filtered under the direct path access method.

其他的方法还有一些限制,具体可以参考mos相关文档。datapump一般会在启动的时候自动决定使用哪种方式,而且一
旦决定不可以通过interactive的方式修改.可以使用400300来进行trace使用了哪种方式

KUPW:02:03:30.332: 1: TABLE_DATA:"FRANK"."T1" direct path, parallel: 1

KUPW:02:03:30.332: 1: In function GATHER_PARSE_ITEMS

KUPW:02:03:30.332: 1: In function CHECK_FOR_REMAP_NETWORK

 

5,对于index不会并行,对大表有索引的情况下,考虑索引以后单独 使用parallel,nologging重建。事实上在
expdp的导出过程中对索引不会像表数据那样需要导出,索引只导出了ddl语句.


6,statistics的导入可能会非常慢,特别是在10.2之前。在expdp中尽量exclude,在impdp后,使用单独的收集
任务来完成.


7,利用强大的过滤功能,主要的选项有tables,include,exclude和query。tables定义只导出某些需要的表,
include表示只导出某些对像,exclude表示排除某些对像.query可以对表中数据进行过滤,只导出我们需要的
那部分数据.

 

8,利用压缩过功能可以减少dump文件的大小
[oracle@localhost dpdump]$ expdp frank/frank dumpfile=abc.dmp tables=t1
[oracle@localhost dpdump]$ ls -l abc.dmp
-rw-r----- 1 oracle oinstall 1583874048 Jan 20 03:54 abc.dmp


[oracle@localhost dpdump]$ expdp frank/frank dumpfile=abc.dmp tables=t1 compression=all

[oracle@localhost dpdump]$ ls -l abc.dmp
-rw-r----- 1 oracle oinstall 197234688 Jan 20 04:29 abc.dmp

可以看到压缩前1.5G,压缩过后只有190M左右.
在12c的版本中,可以通过compression_algorithm来定义压缩算法,常用的压缩级别有:basic,low,medium,high。
结合paralell,可以非常好的利用多core cpu的处理能力.


在11G以前的版本中也有很多的bug会导致datapump变慢的情况,可以查询相关的mos文档.datapump是使用dbms_metadata
和dbms_datapump两个包来完成的,所以shared pool要保证不会太小.

 

 

 

 


 

阅读(698) | 评论(0) | 转发(0) |
0

上一篇:在ls中列出文件的绝对路径

下一篇:没有了

给主人留下些什么吧!~~