Chinaunix首页 | 论坛 | 博客
  • 博客访问: 511805
  • 博文数量: 225
  • 博客积分: 0
  • 博客等级: 民兵
  • 技术积分: 2722
  • 用 户 组: 普通用户
  • 注册时间: 2013-02-03 17:32
文章分类

全部博文(225)

文章存档

2019年(7)

2018年(16)

2017年(1)

2016年(26)

2015年(41)

2014年(15)

2013年(119)

我的朋友

分类: LINUX

2013-12-05 17:59:10

原创作品,转载请保留原文链接:来自飞鸿无痕CU博客

    前言:一直想找一个工具,能很好的实现mysql主从的读写分离架构,曾经试用过mysql-proxy发现lua用起来很不爽,尤其是不懂lua脚本,突然发现了Amoeba这个项目,试用了下,感觉还不错,写出文档,希望对大家有帮助!

一、Amoeba 是什么

Amoeba(变形虫)项目,专注 分布式数据库 proxy 开发。座落与ClientDB Server(s)之间。对客户端透明。具有负载均衡、高可用性、sql过滤、读写分离、可路由相关的query到目标数据库、可并发请求多台数据库合并结果。

主要解决:

降低 数据切分带来的复杂多数据库结构

提供切分规则并降低 数据切分规则 给应用带来的影响

降低db 与客户端的连接数

读写分离

 

二、为什么要用Amoeba

目前要实现mysql的主从读写分离,主要有以下几种方案:

1、  通过程序实现,网上很多现成的代码,比较复杂,如果添加从服务器要更改多台服务器的代码。

2、  通过mysql-proxy来实现,由于mysql-proxy的主从读写分离是通过lua脚本来实现,目前lua的脚本的开发跟不上节奏,而写没有完美的现成的脚本,因此导致用于生产环境的话风险比较大,据网上很多人说mysql-proxy的性能不高。

3、  自己开发接口实现,这种方案门槛高,开发成本高,不是一般的小公司能承担得起。

4、  利用阿里巴巴的开源项目Amoeba来实现,具有负载均衡、高可用性、sql过滤、读写分离、可路由相关的query到目标数据库,并且安装配置非常简单。国产的开源软件,应该支持,目前正在使用,不发表太多结论,一切等测试完再发表结论吧,哈哈!

 

三、快速架设amoeba,实现mysql主从读写分离

假设amoeba的前提条件:

n         Java SE 1.5 或以上 Amoeba 框架是基于JDK1.5开发的,采用了JDK1.5的特性。

n         支持Mysql 协议版本10mysql 4.1以后的版本)。

n         您的网络环境至少运行有一个mysql 4.1以上的服务

       1、首先介绍下我的实验环境。

              System    CentOS release 5.4

              Master mysql192.168.1.121

              Slave mysql192.168.1.108

              Amoeba server   192.168.1.159

架构如如下所示:

我这里只用了一个从数据库!

2、安装配置mysql主从环境,mysql的安装省略,请自行编译或者用rpm安装

###master mysql创建同步用户

grant replication slave,file on *.* to 'replication'@'192.168.1.108' identified by '123456';

       flush privileges;

####修改mastermy.cnf的配置

log-bin=mysql-bin         #打开mysql二进制日志
server-id       = 1          #
设置mysql_id,主从不能相同
binlog-do-db=test          #
设置二进制日志记录的库
binlog-ignore-db=mysql        ##
设置二进制日志不记录的库
sync_binlog=1      

####修改slavemy.cnf的配置

log-bin=mysql-bin
server-id       = 2
replicate-do-db=test       #
设置同步的库
replicate-ignore-db=mysql     #
设置不同步的库
log-slave-updates           #
同步后记录二进制日志
slave-skip-errors=all     
sync_binlog=1

slave-net-timeout=60

分别重启主从mysqld服务,登录主mysql,在主上执行flush tables with read lock;后将test数据库的数据copy到从上,并记录下主上show master status\G的结果:

如:

mysql> show master status\G;

*************************** 1. row ***************************

            File: mysql-bin.000022

        Position: 1237

                  Binlog_Do_DB: test

Binlog_Ignore_DB: mysql

              然后执行unlock tables

              登录从mysql,在从上执行:

stop slave;

change master to master_host='192.168.1.121',master_user='replication',master_password='123456',master_log_file='mysql-bin.000022', master_log_pos=1237;

start slave

show slave status\G;

              如果出现下面的情况,说明主从同步已经成功!

             Slave_IO_Running: Yes

             Slave_SQL_Running: Yes

             

3、安装JDK环境

       下载jdk1.5或者更新版本,地址 http://java.sun.com/javase/downloads/index.jsp

       我用的是:jdk-6u20-linux-i586-rpm.bin

       Amoeba server上执行

chmod +x jdk-6u20-linux-i586-rpm.bin

./ jdk-6u20-linux-i586-rpm.bin

##然后按n次空格键,然后输入yes就可以了!^_ ^

ln -s /usr/java/jdk1.6.0_20/ /usr/java/jdk1.6

vi /etc/profile

#添加如下两行内容

export JAVA_HOME=/usr/java/jdk1.6

export PATH=$JAVA_HOME/bin:$JAVA_HOME/jre/bin:$PATH

#执行下面的命令使更改的内容生效

source /etc/profile

 

4、  安装amoeba-mysql

下载amoeba-mysql,目前最新版本为amoeba-mysql-1.3.1-BETA.zip

配置文件位于conf目录下,执行文件位于bin目录下,解压后发现bin目录下的启动文件没有可执行权限,请执行:chmod -R +x /usr/local/amoeba/bin/

Amoeba For MySQL 的使用非常简单,所有的配置文件都是标准的XML 文件,总共有四个配置文件。分别为:

amoeba.xml:主配置文件,配置所有数据源以及Amoeba 自身的参数设置;实现主从的话配置这个文件就可以了;

rule.xml:配置所有Query 路由规则的信息;

functionMap.xml:配置用于解析Query 中的函数所对应的Java 实现类;

rullFunctionMap.xml:配置路由规则中需要使用到的特定函数的实现类;

下面我们就来通过更改amoeba.xml配置文件实现mysql主从读写分离,我的配置如下:






   
       
        8066
       
       
        192.168.1.110
       
        20
       
       
        30
       
       
        30
       
       
        128
       
       
        true
       
       
        root
       
       
        password
       
       
        60
   

   
   
   
       
            com.meidusa.amoeba.net.AuthingableConnectionManager
           
           
       

   

   
   
       
       
           
           
           
                defaultManager
               
               
                3306
               
               
                192.168.1.121
                test
               
               
                zhang
               
               
               
                zhang123
               
           

           
           
           
                200
                200
                10
                600000
                600000
                true
                true
           

       

       

       
           
           
           
                defaultManager
               
               
                3306
               
               
                192.168.1.108
                test
               
               
                zhang
               
               
               
                zhang123
               
           

           
           
           
                200
                200
                10
                600000
                600000
                true
                true
           

       


       
       
           
               
                1
               
               
                server1
           

       


       
           
               
                1
               
               
                server1,server2
           

       

       
   

   
   
        ${amoeba.home}/conf/rule.xml
        ${amoeba.home}/conf/functionMap.xml
        ${amoeba.home}/conf/ruleFunctionMap.xml
        1500
        master
       
        master
        slave
        true
   




启动amoeba

/usr/local/amoeba/bin/amoeba &

检验启动是否成功(使用的是默认的8066端口):

[root@Centos2 amoeba]# ps aux | grep amoeba

root     24580  0.2 19.2 408912 49264 pts/1    Sl   12:52   0:11 /usr/java/jdk1.6/bin/java -server -Xms256m -Xmx256m -Xss128k -Damoeba.home=/usr/local/amoeba -Dclassworlds.conf=/usr/local/amoeba/bin/amoeba.classworlds -classpath /usr/local/amoeba/lib/classworlds-1.0.jar org.codehaus.classworlds.Launcher

[root@Centos2 amoeba]# netstat -lnp | grep java

tcp        0      0 ::ffff:192.168.1.159:8066   :::*                        LISTEN      24580/java

 

5、  测试

测试之前先要保证amoeba-server有访问两个主从服务器test库的权限,在主从mysql上都执行:

grant all on test.* to zhang@'192.168.1.%' identified by 'zhang123';

#用户名密码要和前面配置的意志

flush privileges;

测试的时候和我们平时使用一样,amoeba-mysql对我们应用透明,就是个mysql的代理了!

登录mysql使用如下命令(用户名密码和上面配置的要一致):

mysql -uroot -ppassword -h192.168.1.159 -P8066

登录上去后,为了测试读和写必须,先把mysql的主从复制停掉,才能更清楚地看出读写的服务器是哪台,在从上使用stop slave;登录到amoeba-mysql上,使用命令mysql -uroot -ppassword -h192.168.1.159 -P8066,然后执行写和读操作,查看写的是哪台服务器,读的是哪台服务器,实验结果显示:写只在主上进行,读在主和从都进行,比率是1:1

测试步骤:

还没有停掉从同步之前,创建一个表:

create table zhang (id int(10) ,name varchar(10),address varchar(20));

在从上执行stop slave;

然后在主从上各插入一条不同数据(供测试读的时候用),

在主上插入:insert into zhang values('1','zhang','this_is_master');

在从上插入:insert into zhang values('2','zhang','this_is_slave');

接下来通过登录amoeba-mysql上来测试读写:

[root@Centos2 ~]# mysql -uroot -ppassword -h192.168.1.159 -P8066

Welcome to the MySQL monitor.  Commands end with ; or \g.

Your MySQL connection id is 14556042

Server version: 5.1.45-mysql-amoeba-proxy-1.3.1-BETA Source distribution

 

Type 'help;' or '\h' for help. Type '\c' to clear the buffer.

 

mysql> use test;

Database changed

mysql> select * from zhang;    ###第一次执行显示在主上读取的数据!

+------+-------+----------------+

| id   | name  | address        |

+------+-------+----------------+

|    1 | zhang | this_is_master |

+------+-------+----------------+

1 row in set (0.02 sec)

 

mysql> select * from zhang;         ####第二次执行select语句显示是在从上读取的数据

+------+-------+---------------+

| id   | name  | address       |

+------+-------+---------------+

|    2 | zhang | this_is_slave |

+------+-------+---------------+

1 row in set (0.02 sec)

mysql> insert into zhang values('3','hhh','test_write');               ###插入一条数据,然后查询

Query OK, 1 row affected (0.01 sec)

mysql> select * from zhang;                ###我们可以看到插入的数据被添加到了主上!

+------+-------+----------------+                   ####可以多插入几次数据看看是否会出现错误!

| id   | name  | address        |

+------+-------+----------------+

|    1 | zhang | this_is_master |

|    3 | hhh   | test_write     |

+------+-------+----------------+

mysql> select * from zhang;                ###从上还是没有插入,因为执行了stop slave

+------+-------+---------------+

| id   | name  | address       |

+------+-------+---------------+

|    2 | zhang | this_is_slave |

+------+-------+---------------+

 

6、  简单主从权重配置

大家可能会想到,我们加入只有两台数据库服务器,一台主,一台从,按照上面的配置只能是主和从的读取比率是1:1,而写又全部在主上进行,这样主的压力就很大了,所以如果能让主和从的读设置权重,比如设置成1:3,这样就可以很好的解决主从不压力均衡的问题!通过研究确实可以!

配置就是将上面的读的池的配置更改一下:

server1,server2更改成

server1,server2,server2,server2

我测试的结果刚好为1:3,如下:

mysql> select * from zhang;

+------+-------+----------------+

| id   | name  | address        |

+------+-------+----------------+

|    1 | zhang | this_is_master |

|    3 | hhh   | test_write     |

+------+-------+----------------+

2 rows in set (0.01 sec)

 

mysql> select * from zhang;

+------+-------+---------------+

| id   | name  | address       |

+------+-------+---------------+

|    2 | zhang | this_is_slave |

+------+-------+---------------+

1 row in set (0.04 sec)

 

mysql> select * from zhang;

+------+-------+---------------+

| id   | name  | address       |

+------+-------+---------------+

|    2 | zhang | this_is_slave |

+------+-------+---------------+

1 row in set (0.01 sec)

 

mysql> select * from zhang;

+------+-------+---------------+

| id   | name  | address       |

+------+-------+---------------+

|    2 | zhang | this_is_slave |

+------+-------+---------------+

 


学习链接:

开发者博客链接: http://amoeba.sourceforge.net/wordpress/

     amoeba 中文文档下载地址:http://amoeba.meidusa.com/amoeba.pdf

    amoeba 未来发展方向:http://amoeba.meidusa.com/amoeba-big-picture.pdf



阅读(556) | 评论(0) | 转发(0) |
给主人留下些什么吧!~~
评论热议
请登录后评论。

登录 注册