mysql cluster(集群构建)

mysql cluster(集群构建)

我们大家都知道MySQL Cluster 是一种技术,其主要功能是在无共享的相关系统中部署内存中数据库 的 Cluster 。在通过无共享体系结构,系统能够使用廉价的硬件,而且对软硬件无特殊要求。
此外,由于每个组件有自己的内存和磁盘,不存在单点故障。 MySQL Cluster 由一组计算机构成,每台计算机上均运行着多种进程,包括MySQL服务器,NDB Cluster 的数据节点,管理服务器,以及(可能)专门的数据访问程序。关于 Cluster 中这些组件的 关系,请参见下图:


所有的这些节点构成一个完成的MySQL集群体系。数据保存在“NDB存储服务器”的存储引擎中,表 (结构)则保存在“MySQL服务器”中。应用程序通过“MySQL服务器”访问这些数据表,集群管理服务 器通过管理工具(ndb_mgmd)来管理“NDB存储服务器”。
通过将MySQL Cluster 引入开放源码世界,MySQL为所有需要它的人员提供了具有高可用性、高性 能和可缩放性的 Cluster 数据管理。
MySQL Cluster 基本概念 “NDB” 是一种“内存中”的存储引擎,它具有可用性高和数据一致性好的 特点。
MySQL Cluster 能够使用多种故障切换和负载平衡选项配置NDB存储引擎,但在 Cluster 级别上的 存储引擎上做这个最简单。MySQL Cluster的NDB存储引擎包含完整的数据集,仅取决Cluster本 身内的其他数据。

目前,MySQL Cluster的 Cluster部分可独立于MySQL服务器进行配置。在MySQL Cluster中,
Cluster的每个部分被视为1个节点。
管理(MGM)节点:这类节点的作用是管理MySQL Cluster内的其他节点,如提供配置数据、启动并停 止节点、运行备份等。由于这类节点负责管理其他节点的配置,应在启动其他节点之前首先启动这类节 点。MGM节点是用命令“ndb_mgmd”启动的。
数据节点:这类节点用于保存 Cluster的数据。数据节点的数目与副本的数目相关,是片段的倍数。例 如,对于两个副本,每个副本有两个片段,那么就有4个数据节点。不过没有必要设置多个副本。数据 节点是用命令“ndbd”启动的。
SQL节点:这是用来访问 Cluster数据的节点。对于MySQL Cluster,客户端节点是使用NDB
Cluster存储引擎的传统MySQL服务器。通常,SQL节点是使用命令“mysqld –ndbcluster”启动的,
或将“ndbcluster”添加到“my.cnf”后使用“mysqld”启动。注释:在很多情况下,术语“节点”用 于指
计算机,但在讨论MySQL Cluster时,它表示的是进程。在单台计算机上可以有任意数目的节点,为
此,我们采用术语“ Cluster主机”。
管理服务器(MGM节点)负责管理 Cluster配置文件和 Cluster日志。 Cluster中的每个节点从管理服务 器检索配置数据,并请求确定管理服务器所在位置的方式。当数据节点内出现新的事件时,节点将关于 这类事件的信息传输 到管理服务器,然后,将这类信息写入 Cluster日志。
此外,可以有任意数目的 Cluster客户端进程或应用程序。它们分为两种类型:
标准MySQL客户端:对于MySQL Cluster,它们与标准的(非 Cluster类)MySQL没有区别。换句
话讲,能够从用PHP、Perl、C、C++、Java、Python、Ruby等编写的现有MySQL应用程序访问 MySQL Cluster。
管理客户端:这类客户端与管理服务器相连,并提供了启动和停止节点、启动和停止消息跟踪(仅调试 版本)、显示节点版本和状态、启动和停止备份等的命令。

在下载所需软件
MySQL-Cluster-gpl-client-7.1.18-1.el6.x86_64.rpm     
MySQL-Cluster-gpl-server-7.1.18-1.el6.x86_64.rpm
MySQL-Cluster-gpl-clusterj-7.1.18-1.el6.x86_64.rpm  
MySQL-Cluster-gpl-storage-7.1.18-1.el6.x86_64.rpm
MySQL-Cluster-gpl-management-7.1.18-1.el6.x86_64.rpm
MySQL-Cluster-gpl-tools-7.1.18-1.el6.x86_64.rpm

系统环境：rhel6.0 x86-64 iptables and selinux off
管理节点 :192.168.0.1
数据节点 :192.168.0.3
sql节点 : 192.168.0.4

---->管理节点配置
rpm -ivh MySQL-Cluster-gpl-management-7.1.18-1.el6.x86_64.rpm
rpm -ivh MySQL-Cluster-gpl-tools-7.1.18-1.el6.x86_64.rpm
[root@server1~]# mkdir /usr/mysql-cluster
[root@server1~]# cd /usr/mysql-cluster
[root@server1 mysql-cluster]# vim config.ini
[ndbd default]
noofreplicas=1               #该全局参数仅能在[NDBD DEFAULT]中设置,它定义了cluster中每个表保 存的副本数。该参数还指定了节点组的大小。节点组指的是保存相同信息的节点集合
datamemory=64M         #该参数定义了数据节点用于保存数据库记录的空间大小,全部空间均是分配 在内存中的,确保你的数据节点具有足够的物理内存来容纳该值,由于我这是使用虚拟机测试,所以设 置的偏小,你可以依照实际环境来定义此值
indexmemory=10M       ##该参数用于控制cluster中哈希(混编)索引所使用的存储量

[ndb_mgmd]
nodeid=1                                     #cluster中的每个节点都有唯一的标识,由从1到63的整数表示
hostname=192.168.0.1             #指定管理节点
datadir=/usr/mysql-cluster       #指定存放管理服务器输出文件的位置,包括cluster日志文件,进程输出文件,及监督程序的PID

[ndbd]
nodeid=2
hostname=192.168.0.3                        #指定数据节点
datadir=/usr/mysql-cluster                  #指定存放跟踪文件,日志文件,pid文件,以及错误日志的目录

[mysqld]
nodeid=3
hostname=192.168.0.4                         #指定sql节点

---->数据节点配置
rpm -ivh MySQL-Cluster-gpl-storage-7.1.18-1.el6.x86_64.rpm
[root@server3~]# mkdir /usr/mysql-cluster
[root@server3~]# vim /etc/my.cnf
[mysqld]
ndbcluster                                      #运行ndb集群引擎
ndb-connectstring=192.168.0.1    #指定管理节点

[mysql_cluster]
ndb-connectstring=192.168.0.1    #指定管理节点

---->sql节点配置
rpm -ivh MySQL-Cluster-gpl-client-7.1.18-1.el6.x86_64.rpm     
rpm -ivh MySQL-Cluster-gpl-server-7.1.18-1.el6.x86_64.rpm
如果你的内存≤64M,则复制/usr/share/mysql/my-small.cnf为/etc/my.cnf
如果内存是128M,则复制/usr/share/mysql/my-medium.cnf为/etc/my.cnf
如果内存是512M,则复制/usr/share/mysql/my-large.cnf为/etc/my.cnf
如果内存是1-2G,则复制/usr/share/mysql/my-huge.cnf为/etc/my.cnf
如果内存是4G,则复制/usr/share/mysql/my-innodb-heavy-4G.cnf为/etc/my.cnf

[root@server4 ~]# cd /usr/share/mysql
[root@server4 mysql]# cp my-medium.cnf /etc/my.cnf
[root@server4 mysql]# vim /etc/my.cnf
....
#innodb_lock_wait_timeout = 50               #以下数据添加在[mysqld]区域下方
ndbcluster
ndb-connectstring=192.168.0.1

[mysql-cluster]
ndb-connectstring=192.168.0.1
....

---->首先启动管理节点，再启动数据节点，最后启动sql节点
####管理节点
[root@server1 mysql-cluster]# ndb_mgmd -f /usr/mysql-cluster/config.ini
MySQL Cluster Management Server mysql-5.1.56 ndb-7.1.18
[root@server1 mysql-cluster]# ls
config.ini  ndb_1_cluster.log  ndb_1_config.bin.1 ndb_1_out.log  ndb_1.pid #服务启动后生成的文件
[root@server1 mysql-cluster]# ps ax
....
 1326 ?        S      0:00 [flush-253:0]
 1331 ?        Ssl    0:00 ndb_mgmd -f /usr/mysql-cluster/config.ini
 1347 pts/0    R+     0:00 ps ax

####数据节点
[root@server3 ~]# ndbd --initial               #在数据节点操作
2012-04-09 07:43:47 [ndbd] INFO     -- Angel connected to '192.168.0.1:1186'
2012-04-09 07:43:47 [ndbd] INFO     -- Angel allocated nodeid: 2
[root@server3 ~]# ls /usr/mysql-cluster/   #目录需要手动创建,服务启动后在里面生成文件,目录
ndb_2_fs  ndb_2_out.log  ndb_2.pid      #蓝色字体为目录

注: 仅在首次启动ndbd时,或在备份/恢复或配置变化后重启ndbd时使用“--initial”参数,这很重
要。原因在于,该参数会使节点删除由早期ndbd实例
实例创建的、用于恢复的任何文件,包括恢复用日志 文件

####SQL节点
[root@server4 ~]# /etc/init.d/mysql start         #在sql节点操作
Starting MySQL.. SUCCESS!

[root@server1 ~]# netstat -antlp
....
tcp        0      0 0.0.0.0:1186                0.0.0.0:*                   LISTEN      1331/ndb_mgmd      
tcp        0      0 127.0.0.1:47757             127.0.0.1:1186              ESTABLISHED 1331/ndb_mgmd        
tcp        0      0 192.168.0.1:1186            192.168.0.3:60259           ESTABLISHED 1331/ndb_mgmd     
tcp        0      0 192.168.0.1:1186            192.168.0.4:57693           ESTABLISHED 1331/ndb_mgmd 
tcp        0      0 192.168.0.1:1186            192.168.0.3:60260           ESTABLISHED 1331/ndb_mgmd
tcp        0      0 127.0.0.1:1186              127.0.0.1:47757             ESTABLISHED 1331/ndb_mgmd 
....

---->管理节点测试
[root@server1 mysql-cluster]# ndb_mgm
-- NDB Cluster -- Management Client --
ndb_mgm> show
Connected to Management Server at: localhost:1186
Cluster Configuration
---------------------
[ndbd(NDB)]    1 node(s)
id=2    @192.168.0.3  (mysql-5.1.56 ndb-7.1.18, Nodegroup: 0, Master)
[ndb_mgmd(MGM)]    1 node(s)
id=1    @192.168.0.1  (mysql-5.1.56 ndb-7.1.18)
[mysqld(API)]    1 node(s)
id=3    @192.168.0.4  (mysql-5.1.56 ndb-7.1.18)

---->安全关闭和重启mysql cluster
在MGM节点所在的机器上,在Shell中简单地输入下述命令:
ndb_mgm -e shutdown
该命令将恰当地中止ndb_mgm、ndb_mgmd以及任何ndbd进程。使用mysqladmin shutdown或
其他方法,可中止SQL节点
重启时,可简单地运行下述命令:
####在管理节点上:
ndb_mgmd -f /var/lib/mysql-cluster/config.ini
####在每台数据节点上:
ndbd
注:正常重启NDBD节点时,不要用“--initial”选项调用该命令。
####在SQL节点上:
service mysql restart

---->实现在线添加节点(192.168.0.5配置与数据节点192.168.0.3相同) and( 192.168.0.6配置与sql节点192.168.0.4相同)
管理节点:
[root@server1 ~]# ndb_mgm -e shutdown                #中止ndb_mgm、ndb_mgmd以及任何ndb进程
[root@server1 ~]# vim /usr/mysql-cluster/config.ini   #添加如下内容
[ndbd default]
noofreplicas=2    #定义两个节点为一个节点组,同组存储 的数据是相同,数据节点分布在不同的主        机,避免了单点故障
....
[ndbd]                                   #新增节点同节点192.168.0.3数据节点
nodeid=4
hostname=192.168.0.5         #指定新增数据节点
datadir=/usr/mysql-cluster

[mysqld]                               #新增节点同节点192.168.0.4 sql节点
nodeid=5
hostname=192.168.0.6         #指定新增sql节点

[mysqld]                  #加空闲连接，为以后数据恢复准备，或需要时再添加

[root@server5 ~]# rpm -ivh MySQL-Cluster-gpl-storage-7.1.18-1.el6.x86_64.rpm
[root@server5 ~]# mkdir /usr/mysql-cluster
[root@server3 ~]# scp /etc/my.cnf 192.168.0.5:/etc/           ####
[root@server5 ~]# vim /etc/my.cnf
[mysqld]
ndbcluster
ndb-connectstring=192.168.0.1

[mysql_cluster]
ndb-connectstring=192.168.0.1

[root@server6 ~]# rpm -ivh MySQL-Cluster-gpl-client-7.1.18-1.el6.x86_64.rpm     
[root@server6 ~]# rpm -ivh MySQL-Cluster-gpl-server-7.1.18-1.el6.x86_64.rpm
[root@server4 ~]# scp /etc/my.cnf 192.168.0.6:/etc/          ####
[root@server6 ~]# vim /etc/my.cnf
....
#innodb_flush_log_at_trx_commit = 1
#innodb_lock_wait_timeout = 50

ndbcluster
ndb-connectstring=192.168.0.1

[mysql-cluster]
ndb-connectstring=192.168.0.1

[mysqldump]
....

---->管理节点检测
[root@server1 ~]# ndb_mgm
ndb_mgm> show
Connected to Management Server at: localhost:1186
Cluster Configuration
---------------------
[ndbd(NDB)]    2 node(s)
id=2    @192.168.0.3  (mysql-5.1.56 ndb-7.1.18, Nodegroup: 0, Master)
id=4    @192.168.0.5  (mysql-5.1.56 ndb-7.1.18, Nodegroup: 1)

[ndb_mgmd(MGM)]    1 node(s)
id=1    @192.168.0.1  (mysql-5.1.56 ndb-7.1.18)

[mysqld(API)]    2 node(s)
id=3    @192.168.0.4  (mysql-5.1.56 ndb-7.1.18)
id=5    @192.168.0.6  (mysql-5.1.56 ndb-7.1.18)

在sql节点执行:
[root@server6 ~]# mysqladmin create world
[root@server6 ~]#  vi city.sql
CREATE TABLE City (
ID int(11) NOT NULL auto_increment,
Name char(35) NOT NULL default '',
CountryCode char(3) NOT NULL default '',
District char(20) NOT NULL default '',
Population int(11) NOT NULL default '0',
PRIMARY KEY (ID)
) ENGINE=NDBCLUSTER; #指定MySQL为该表使用了NDB存储引擎,数据存储于各数据节点,             #不然mysql使用默认的MyISAM存储引擎,所有的数据将会存储于本机,和单机一样
INSERT INTO City VALUES (1,'Kabul','AFG','Kabol',1780000);
INSERT INTO City VALUES (2,'Qandahar','AFG','Qandahar',237500);
INSERT INTO City VALUES (3,'Herat','AFG','Herat',186800);
[root@server6 ~]# mysql world < city.sql

####在各sql节点查看导入的数据
mysql> use world;
Database changed
mysql> show tables;
+-----------------+
| Tables_in_world |
+-----------------+
| City                 |
+-----------------+
1 row in set (0.00 sec)
mysql> select * from City;
+----+----------+-------------+----------+------------+
| ID | Name     | CountryCode | District | Population |
+----+----------+-------------+----------+------------+
|  3 | Herat    | AFG         | Herat    |     186800 |
|  1 | Kabul    | AFG         | Kabol    |    1780000 |
|  2 | Qandahar | AFG         | Qandahar |     237500 |
+----+----------+-------------+----------+------------+
3 rows in set (0.06 sec)

---->mysql cluster 备份和恢复
####在管理节点操作
ndb_mgm> show
Cluster Configuration
---------------------
[ndbd(NDB)]    2 node(s)
id=2    @192.168.0.3  (mysql-5.1.56 ndb-7.1.18, Nodegroup: 0, Master)
id=4    @192.168.0.5  (mysql-5.1.56 ndb-7.1.18, Nodegroup: 1)

[ndb_mgmd(MGM)]    1 node(s)
id=1    @192.168.0.1  (mysql-5.1.56 ndb-7.1.18)

[mysqld(API)]    2 node(s)
id=3    @192.168.0.4  (mysql-5.1.56 ndb-7.1.18)
id=5    @192.168.0.6  (mysql-5.1.56 ndb-7.1.18)
ndb_mgm> start backup                         #mysql cluster备份数据
Waiting for completed, this may take several minutes
Node 2: Backup 1 started from node 1
Node 2: Backup 1 started from node 1 completed
 StartGCP: 20 StopGCP: 23
 #Records: 2053 #LogRecords: 0
 Data: 50312 bytes Log: 0 bytes
ndb_mgm> quit

注:默认备份的数据在各数据节点的/usr/local/mysql/ndbdata/BACKUP目录下保存
[root@server1 ~]# scp /usr/bin/ndb_restoer root@server3:/use/bin/
[root@server1 ~]# scp /usr/bin/ndb_restore root@server5:/usr/bin/

####在sql节点操作
mysql> delete from City;                  #删除world库中的City表,在数据节点执行恢复操作
Query OK, 3 rows affected (0.04 sec)

mysql> select * from City;
Empty set (0.00 sec)

####在数据节点(由于数据分散在两个节点,因此分别在两个数据节点执行恢复操作) 
[root@server3 ~]# cd /usr/mysql-cluster/
[root@server3 mysql-cluster]# ls
BACKUP  ndb_2_error.log  ndb_2_fs  ndb_2_out.log  ndb_2.pid  ndb_2_trace.log.1  ndb_2_trace.log.next
[root@server3 mysql-cluster]# cd BACKUP/
[root@server3 BACKUP]# ls
BACKUP-1
[root@server3 BACKUP]# cd BACKUP-1/
[root@server3 BACKUP-1]# ls
BACKUP-1-0.2.Data  BACKUP-1.2.ctl  BACKUP-1.2.log
[root@server3 ~]# ndb_restore -n 2 -b 1 -r /usr/mysql-cluster/BACKUP/BACKUP-1/   #数据节点2
Nodeid = 2
Backup Id = 1
backup path = /usr/mysql-cluster/BACKUP/BACKUP-1/
Opening file '/usr/mysql-cluster/BACKUP/BACKUP-1/BACKUP-1.2.ctl'
File size 10420 bytes
Backup version in files: ndb-6.3.11 ndb version: mysql-5.1.56 ndb-7.1.18
Stop GCP of Backup: 84
Connected to ndb!!
Opening file '/usr/mysql-cluster/BACKUP/BACKUP-1/BACKUP-1-0.2.Data'
File size 26304 bytes
Processing data in table: sys/def/NDB$EVENTS_0(3) fragment 0
_____________________________________________________
Processing data in table: mysql/def/ndb_apply_status(6) fragment 0
_____________________________________________________
Processing data in table: world/def/City(7) fragment 0
_____________________________________________________
Processing data in table: mysql/def/NDB$BLOB_4_3(5) fragment 0
_____________________________________________________
Processing data in table: sys/def/SYSTAB_0(2) fragment 0
_____________________________________________________
Processing data in table: mysql/def/ndb_schema(4) fragment 0
Opening file '/usr/mysql-cluster/BACKUP/BACKUP-1/BACKUP-1.2.log'
File size 52 bytes
Restored 1 tuples and 0 log entries
NDBT_ProgramExit: 0 – OK

[root@server5 ~]# cd /usr/mysql-cluster/
[root@server5 mysql-cluster]# ls
BACKUP  ndb_4_error.log  ndb_4_fs  ndb_4_out.log  ndb_4.pid  ndb_4_trace.log.1  ndb_4_trace.log.2  ndb_4_trace.log.next
[root@server5 mysql-cluster]# cd BACKUP/
[root@server5 BACKUP]# ls
BACKUP-1
[root@server5 BACKUP]# cd BACKUP-1/
[root@server5 BACKUP-1]# ls
BACKUP-1-0.4.Data  BACKUP-1.4.ctl  BACKUP-1.4.log
[root@server5 ~]# ndb_restore -n 4 -b 1 -r /usr/mysql-cluster/BACKUP/BACKUP-1/     #数据节点4
Nodeid = 4
Backup Id = 1
backup path = /usr/mysql-cluster/BACKUP/BACKUP-1/
Opening file '/usr/mysql-cluster/BACKUP/BACKUP-1/BACKUP-1.4.ctl'
File size 10420 bytes
Backup version in files: ndb-6.3.11 ndb version: mysql-5.1.56 ndb-7.1.18
Stop GCP of Backup: 84
Connected to ndb!!
Opening file '/usr/mysql-cluster/BACKUP/BACKUP-1/BACKUP-1-0.4.Data'
File size 25392 bytes
_____________________________________________________
Processing data in table: sys/def/NDB$EVENTS_0(3) fragment 1
_____________________________________________________
Processing data in table: mysql/def/ndb_apply_status(6) fragment 1
_____________________________________________________
Processing data in table: world/def/City(7) fragment 1
_____________________________________________________
Processing data in table: mysql/def/NDB$BLOB_4_3(5) fragment 1
_____________________________________________________
Processing data in table: sys/def/SYSTAB_0(2) fragment 1
_____________________________________________________
Processing data in table: mysql/def/ndb_schema(4) fragment 1
Opening file '/usr/mysql-cluster/BACKUP/BACKUP-1/BACKUP-1.4.log'
File size 52 bytes
Restored 2 tuples and 0 log entries
NDBT_ProgramExit: 0 – OK
注：-n指节点id -b指备份id -r指备份目录



GOOD LUCK!