hadoop数据迁移工具Sqoop和淘宝DataX功能比较

当前离线 积分 窥视卡 雷达卡

问题导读： 1.Sqoop与DataX有什么优点和缺点？ 2.DataX是什么? 3.DataX用来解决什么? 4.DataX特点? 5.DataX运行模式是什么？ 6.Sub-job的含义是什么？ Sqoop工具介绍 Sqoop是Apache下的顶级项目，用来将Hadoop和关系型数据库中的数据相互转移，可以将一个关系型数据库（例如：MySQL，Oracle，PostgreSQL等）中的数据导入到Hadoop的HDFS中，也可以将HDFS的数据导入到关系型数据库中。目前在各个公司应用广泛，且发展前景比较乐观。其特点在于： 1）专门为Hadoop而生，随Hadoop版本更新支持程度好，且原本即是从CDH版本孵化出来的开源项目，支持CDH4应该没问题。 2）支持并行导入，宣称速度很快（由于时间紧，未来得及进行真实环境的测试），可以指定按某个字段进行拆分并行化导入过程。 3）支持按字段进行导入与导出。 4）自带的辅助工具比较丰富，如sqoop-import、sqoop-list-databases、sqoop-list-tables等。 DataX介绍 DataX是淘宝开源的数据导入导出的工具，支持HDFS集群与各种关系型数据库之间的数据交换。其特点在于： 1）官方版本支持的Hadoop版本较低（0.19），暂不支持高版本（如CDH4）。 2）支持从一个HDFS集群到另一个HDFS集群之间的数据导入导出。 3）支持数据不落地的并行导入导出。 看到这里已经差不多，想详细了解可以往下继续看 详细介绍： DataX是什么? DataX是一个在异构的数据库/文件系统之间高速交换数据的工具，实现了在任意的数据处理系统(RDBMS/Hdfs/Local filesystem）之间的数据交换，由淘宝数据平台部门完成。 DataX用来解决什么? 目前成熟的数据导入导出工具比较多，但是一般都只能用于数据导入或者导出，并且只能支持一个或者几个特定类型的数据库。这样带来的一个问题是，如果我们拥有很多不同类型的数据库/文件系统(Mysql/Oracle/Rac/Hive/Other…)，并且经常需要在它们之间导入导出数据，那么我们可能需要开发/维护/学习使用一批这样的工具(jdbcdump/dbloader/multithread/getmerge+sqlloader/mysqldumper…)。而且以后每增加一种库类型，我们需要的工具数目将线性增长。(当我们需要将mysql的数据导入oracle的时候，有没有过想从jdbcdump和dbloader上各掰下来一半拼在一起到冲动？) 这些工具有些使用文件中转数据，有些使用管道，不同程度的为数据中转带来额外开销，效率差别很非常大。很多工具也无法满足ETL任务中常见的需求，比如日期格式转化，特性字符的转化，编码转换。另外，有些时候，我们希望在一个很短的时间窗口内，将一份数据从一个数据库同时导出到多个不同类型的数据库。 DataX正是为了解决这些问题而生。 我们只需要针对新增的数据源开发的一套Reader/Writer插件，即可实现任意数据的互导 DataX特点? 在异构的数据库/文件系统之间高速交换数据 采用Framework + plugin架构构建，Framework处理了缓冲，流控，并发，上下文加载等高速数据交换的大部分技术问题，提供了简单的接口与插件交互，插件仅需实现对数据处理系统的访问 运行模式：stand-alone 数据传输过程在单进程内完成，全内存操作，不读写磁盘，也没有IPC 开放式的框架，开发者可以在极短的时间开发一个新插件以快速支持新的数据库/文件系统。（具体参见《DataX插件开发指南》） DataX结构模式（框架+插件） Job: 一道数据同步作业 Splitter: 作业切分模块，将一个大任务与分解成多个可以并发的小任务. Sub-job： 数据同步作业切分后的小任务 Reader(Loader): 数据读入模块，负责运行切分后的小任务，将数据从源头装载入DataX Storage: Reader和Writer通过Storage交换数据 Writer(Dumper): 数据写出模块，负责将数据从DataX导入至目的数据地 DataX框架内部通过双缓冲队列、线程池封装等技术，集中处理了高速数据交换遇到的问题，提供简单的接口与插件交互，插件分为Reader和Writer两类，基于框架提供的插件接口，可以十分便捷的开发出需要的插件。比如想要从oracle导出数据到mysql，那么需要做的就是开发出OracleReader和MysqlWriter插件，装配到框架上即可。并且这样的插件一般情况下在其他数据交换场合是可以通用的。更大的惊喜是我们已经开发了如下插件： Reader插件 hdfsreader : 支持从hdfs文件系统获取数据。 mysqlreader: 支持从mysql数据库获取数据。 sqlserverreader: 支持从sqlserver数据库获取数据。 oraclereader : 支持从oracle数据库获取数据。 streamreader: 支持从stream流获取数据（常用于测试） httpreader : 支持从http URL获取数据。 Writer插件 hdfswriter：支持向hdbf写入数据。 mysqlwriter：支持向mysql写入数据。 oraclewriter：支持向oracle写入数据。 streamwriter：支持向stream流写入数据。（常用于测试） 您可以按需选择使用或者独立开发您自己的插件 (具体参见《DataX插件开发指南》) DataX在淘宝的运用 DataX上线后，我们对淘宝数据平台原有作业进行了逐步批量迭代替换。数据同步工具归一化为DataX后，大大提高了用户拖表数据速度和内存利用率， 同时针对归一化后的DataX工具，我们能够做到更好应对mysql切库、数据同步监控等以前零散工具下很难完成的运维任务。 下面是部分工具替换后的比对情况： 目前DataX在淘宝数据平台数据已经广泛地被用于数据同步作业，每天共计有4000+道DataX数据同步作业分布在全天各个时段运行。 DataX/DbSync/TT已经构成了淘宝数据平台数据提供的三大支柱： 其中DataX每天为淘宝贡献2.5T数据量，占淘宝数据平台总体数据同步的23%，占数据库数据同步的96%。