Oracle数据库日志分析系统

一、前言：

       Oracle在企业中应用，尤其是在金融，电力，银行，交通等支柱产业的应用是非常广泛的，这些领域需要大量的数据存储，一般是以数据仓库的方式和数据库集群的方式来进行数据库服务器的分布式处理，对于数据库的分布式处理是一种多级数据处理过程，每一层次在运行的过程中会产生大量的日志积累，如何有效地利用这些遗留下来的日志数据以发现有效的利润增值模式，或者从历史日志中发现数据库的异常操作。

       本系统旨在研究如何通过oracle的日志文件重现历史操作。按照审计的方式分析日志格式，在历史还原的基础上，能对有毁坏性的数据进行数据恢复，对于不正常的数据操作，能很快地查明是什么人在什么时间进行了什么操作？

 

二、概述：

       就目前oracle提供的技术，对于oracle记录的两种重要的日志格式REDO LOG和ARCHIVE LOG可以通过oracle8i以后的Log Miner工具来分析。本系统另外结合Trace日志格式来辅助分析。

       

 

三、深入分析Oracle数据库日志文件【LOG MINIER】

 

      作为Oracle DBA，我们有时候需要追踪数据误删除或用户的恶意操作情况，此时我们不仅需要查出执行这些操作的数据库账号，还需要知道操作是由哪台客户端（IP地址等）发出的。针对这些问题，一个最有效实用而又低成本的方法就是分析Oracle数据库的日志文件。本文将就Oracle日志分析技术做深入探讨。

 

（一）  如何分析即LogMiner解释

 

从目前来看，分析Oracle日志的唯一方法就是使用Oracle公司提供的LogMiner来进行， Oracle数据库的所有更改都记录在日志中，但是原始的日志信息我们根本无法看懂，而LogMiner就是让我们看懂日志信息的工具。从这一点上看，它和tkprof差不多，一个是用来分析日志信息，一个则是格式化跟踪文件。通过对日志的分析我们可以实现下面的目的：

 

1、查明数据库的逻辑更改；

2、侦察并更正用户的误操作；

3、执行事后审计；

4、执行变化分析。

 

不仅如此，日志中记录的信息还包括：数据库的更改历史、更改类型（INSERT、UPDATE、DELETE、DDL等）、更改对应的SCN号、以及执行这些操作的用户信息等，LogMiner在分析日志时，将重构等价的SQL语句和UNDO语句（分别记录在V$LOGMNR_CONTENTS视图的SQL_REDO和SQL_UNDO中）。这里需要注意的是等价语句，而并非原始SQL语句，例如：我们最初执行的是“delete a where c1 <>'cyx';”，而LogMiner重构的是等价的6条DELETE语句。所以我们应该意识到V$LOGMNR_CONTENTS视图中显示的并非是原版的现实，从数据库角度来讲这是很容易理解的，它记录的是元操作，因为同样是“delete a where c1 <>'cyx';”语句，在不同的环境中，实际删除的记录数可能各不相同，因此记录这样的语句实际上并没有什么实际意义，LogMiner重构的是在实际情况下转化成元操作的多个单条语句。

 

另外由于Oracle重做日志中记录的并非原始的对象（如表以及其中的列）名称，而只是它们在Oracle数据库中的内部编号（对于表来说是它们在数据库中的对象ID，而对于表中的列来说，对应的则是该列在表中的排列序号：COL 1, COL 2 等），因此为了使LogMiner重构出的SQL语句易于识别，我们需要将这些编号转化成相应的名称，这就需要用到数据字典（也就说LogMiner本身是可以不用数据字典的，详见下面的分析过程），LogMiner利用DBMS_LOGMNR_D.BUILD()过程来提取数据字典信息。

 

LogMiner包含两个PL/SQL包和几个视图：

 

1、dbms_logmnr_d包，这个包只包括一个用于提取数据字典信息的过程，即dbms_logmnr_d.build()过程。

2、dbms_logmnr包，它有三个过程：

add_logfile(name varchar2, options number) - 用来添加/删除用于分析的日志文件；

start_logmnr(start_scn number, end_scn number, start_time number,end_time number, dictfilename varchar2, options number) - 用来开启日志分析，同时确定分析的时间/SCN窗口以及确认是否使用提取出来的数据字典信息。

end_logmnr() - 用来终止分析会话，它将回收LogMiner所占用的内存。

 

与LogMiner相关的数据字典。

1、v$logmnr_dictionary，LogMiner可能使用的数据字典信息，因logmnr可以有多个字典文件，该视图用于显示这方面信息。

2、v$logmnr_parameters，当前LogMiner所设定的参数信息。

3、v$logmnr_logs，当前用于分析的日志列表。

4、v$logmnr_contents，日志分析结果。

 

(二)Oracle9i LogMiner的增强：

 

1、支持更多数据/存储类型：链接/迁移行、CLUSTER表操作、DIRECT PATH插入以及DDL操作。在V$LOGMNR_CONTENTS的SQL_REDO中可以看到DDL操作的原句（CREATE USER除外，其中的密码将以加密的形式出现，而不是原始密码）。如果TX_AUDITING初始化参数设为TRUE，则所有操作的数据库账号将被记录。

 

2、提取和使用数据字典的选项：现在数据字典不仅可以提取到一个外部文件中，还可以直接提取到重做日志流中，它在日志流中提供了操作当时的数据字典快照，这样就可以实现离线分析。

 

3、允许对DML操作按事务进行分组：可以在START_LOGMNR()中设置COMMITTED_DATA_ONLY选项，实现对DML操作的分组，这样将按SCN的顺序返回已经提交的事务。

 

4、支持SCHEMA的变化：在数据库打开的状态下，如果使用了LogMiner的DDL_DICT_TRACKING选项，Oracle9i的LogMiner将自动对比最初的日志流和当前系统的数据字典，并返回正确的DDL语句，并且会自动侦察并标记当前数据字典和最初日志流之间的差别，这样即使最初日志流中所涉及的表已经被更改或者根本已经不存在，LogMiner同样会返回正确的DDL语句。

 

5、在日志中记录更多列信息的能力：例如对于UPDATE操作不仅会记录被更新行的情况，还可以捕捉更多前影信息。

 

6、支持基于数值的查询：Oracle9i LogMiner在支持原有基于元数据（操作、对象等）查询的基础上，开始支持基于实际涉及到的数据的查询。例如涉及一个工资表，现在我们可以很容易地查出员工工资由1000变成2000的原始更新语句，而在之前我们只能选出所有的更新语句。

 

(三)Oracle的日志分析过程

 

LogMiner只要在实例起来的情况下都可以运行，LogMiner使用一个字典文件来实现Oracle内部对象名称的转换，如果没有这个字典文件，则直接显示内部对象编号，例如我们执行下面的语句：

delete from "C"."A" where "C1" = ‘gototop’ and ROWID = 'AAABg1AAFAAABQaAAH';

如果没有字典文件，LogMiner分析出来的结果将是：

delete from "UNKNOWN"."OBJ# 6197" where "COL 1" = HEXTORAW('d6a7d4ae') and ROWID

 = 'AAABg1AAFAAABQaAAH';

 

如果想要使用字典文件，数据库至少应该出于MOUNT状态。然后执行dbms_logmnr_d.build过程将数据字典信息提取到一个外部文件中。下面是具体分析步骤：

1、 确认设置了初始化参数：UTL_FILE_DIR，然后启动实例。

示例中UTL_FILE_DIR参数如下：

SQL> show parameter utl

NAME                         TYPE        VALUE

------------------------ ----------- ------------------------------

utl_file_dir                 string      /data6/cyx/logmnr

这个目录主要用于存放dbms_logmnr_d.build过程所产生的字典信息文件，如果不用这个，则可以不设，也就跳过下面一步。

2、生成字典信息文件：

exec dbms_logmnr_d.build(dictionary_filename =>'

dic.ora',dictionary_location => '/data6/cyx/logmnr');

其中dictionary_location指的是字典信息文件的存放位置,它必须完全匹配UTL_FILE_DIR的值，例如：假设UTL_FILE_DIR=/data6/cyx/logmnr/管理员在2009年8月13日编辑了该文章文章。