Chinaunix首页 | 论坛 | 博客
  • 博客访问: 1416356
  • 博文数量: 286
  • 博客积分: 3713
  • 博客等级: 少校
  • 技术积分: 2275
  • 用 户 组: 普通用户
  • 注册时间: 2012-01-11 09:47
个人简介

http://blog.chinaunix.net/uid/16979052.html

文章分类

全部博文(286)

文章存档

2018年(1)

2017年(16)

2016年(9)

2015年(17)

2014年(15)

2013年(112)

2012年(116)

分类:

2012-12-18 13:38:40

随着业务的发展和用户数量的激增,线上的数据库资源日趋紧张仅依靠数据库的优化、微调已无法满足业务快速发展的需求。笔者设计编写了数据库二期扩容方案以解决当前数据库导致的业务整体性能瓶颈问题。在此分享出来希望对亲爱的博友们有所帮助,其中如果有设计不够周全的地方还请不吝赐教!

1.1 数据库二期扩容方案逻辑拓扑

 

1.1数据库二期扩容方案逻辑拓扑图

在本方案中MasterAMasterB数据库服务器借助HA技术以此实现主数据库业务对外提供连续可靠的服务。该方案中Master服务器的数据部署在未来存储业务分区内。当active宕机后standby将主动接管其服务并自动完成数据的挂载。Master高可用服务与Slave集群数据库之间采用mysql主从实时同步技术实现masterslave数据库集群之间的数据实时同步工作。在该业务的逻辑层引入Amoeba技术实现数据库的路由、负载均衡和读写分离功能。(最佳方案在项目开发时就使用读写分离的技术实现对数据库群的访问抛弃Amoeba)。 

1.2 Amoeba技术的引入 1.2.1 引入Amoeba的原因

考虑项目开发时未规划数据库读写分离的现实情况,所以本方案采用了第三方开发的开源数据库代理中间件Amoeba。该中间件实现了MySQL协议并支持SQL的读写分离、负载均衡、高可用性等功能。

1.2.2 什么是Amoeba

Amoeba是一个以MySQL为底层数据存储,并对应用提供MySQL协议接口的proxy。它集中地响应应用的请求,依据用户事先设置的规则,将SQL请求发送到特定的数据库上执行。基于此可以实现负载均衡、读写分离、高可用性等需求。与MySQL官方的MySQL Proxy相比,作者强调的是Amoeba配置的方便(基于XML的配置文件,用SQLJEP语法书写规则,比基于lua脚本的MySQL Proxy简单)。

  Amoeba相当于一个SQL请求的路由器,目的是为负载均衡、读写分离、高可用性提供机制,而不是完全实现它们。用户需要结合使用MySQL Replication等机制来实现副本同步等功能。Amoeba对底层数据库连接管理和路由实现也采用了可插拨的机制,第三方可以开发更高级的策略类来替代作者的实现。这个程序总体上比较符合KISS的思想。

1.2.3 Amoeba的优势

  Amoeba主要解决以下问题:

  a). 数据切分后复杂数据源整合

  b). 提供数据切分规则并降低数据切分规则给数据库带来的影响

  c). 降低数据库与客户端连接

  d). 读写分离路由

  f).支持分库,分表,事务

1.2.4 Amoeba的不足

a)目前还不支持事务

b)暂时不支持存储过程

  c)不适合从Amoeba导数据的场景或者对大数据量查询的query并不合适(比如一次请求返回10w以上甚至更多数据的场合)

d)不支持分库分表,Amoeba目前只做到分数据库实例,每个被切分的节点需要保持库表结构一致。

1.3 网络规划

数据库的网络规划同一期数据库服务器的网络规划设置相同,部署在同一Vlan内。

1.4 主机规划

主机

双机

安装介质

当前业务

raid

OS

db1

Y

1)MySQL 2)keepalive 3Amoeba

主数据库A

Raid5

Centos5.4

db2

Y

1)MySQL 2)keepalive3Amoeba

主数据库B

Raid5

Centos5.4

db3

N

1)MySQL

从数据库

Raid5

Centos5.4

……..

……..

……..

……..

……..

……..

 

1.5 数据库服务器主从方案实施 1.5.1 数据库服务器角色规划

主机名

 IP地址

角色

server_id

业务逻辑

MasterA

11.0.211.13

master

1

&

MasterB

11.0.211.14

master

2

&

Slave1

192.168.202.83

slave

3

只读

Slave2

192.168.202.84

slave

4

只读

只读

1.5.2 Master服务器设置

1)          备份数据配置文件

#cp my.cnf my.cnf_bk_20121213

2)          修改配置文件my.cnf内容

[mysqld]部分追加如下配置选项

skip-name-resolve

#屏蔽域名验证

server-id=1

#数据库id

log-bin=mysql-bin

#设置数据以二进制形式同步

binlog-do-db=mms_sdmtv

#设置实时同步的数据库

3)          master服务器上设置slave集群的同步账号

a)    grant replication slave on *.* to 'myapp'@'193.168.202.83' identified by '123abc';

b)grant replication slave on *.* to 'myapp'@'193.168.202.84' identified by '123abc';

c)flush privileges;

分别在slave服务器8384上进行测试mysql -h 10.0.211.5 -u myapp –p是否可以使用授权的账号进行登录。

4)          重启master数据库服务

service mysqld restart

#使配置文件my.cnf的参数生效

5)          MasterB配置同MasterA此处不再赘述

1.5.3 Slave集群配置

1)          备份mysql配置文件

cp my.cnf my.cnf_bk_20121213

2)          修改配置文件my.cnf内容

[mysqld]部分追加如下配置选项:

skip-name-resolve

##屏蔽域名验证

server-id=2

#数据库id

master-host=11.0.211.5

#数据库主服务

master-user=myapp

#允许slave进行同步数据的账号

master-password=123abc

#密码

master-port=3306

#主服务端口

master-connect-retry=60

#超时时间

replicate-do-db=mms_sdmtv

#实时同步的数据库

log-bin=mysql-bin

#二进制数据文件

3)          重启master数据库服务

service mysqld restart

#使配置文件my.cnf的参数生效

4)          其他slave设置与该配置相同

唯一需要修改的参数为server-id

 

1.5.4 测试与验证

一、        验证服务是否已经正确配置

1)          master上验证主服务

使用命令show master status\G;显示如下信息则表示主服务已经正确配置:

*************************** 1. row ***************************

 File: mysql-bin.000001

Position: 98

Binlog_Do_DB: mms_sdmtv

Binlog_Ignore_DB:

1 row in set (0.00 sec)

2)          验证slave服务是否已经正确配置

使用命令show slave status\G;验证slave服务是否已经正确配置,如返回以下信息则表示已经正确配置:

*************************** 1. row ***************************

Slave_IO_State: Waiting for master to send event

Master_Host: 11.0.211.5

Master_User: myapp

Master_Port: 3306

Connect_Retry: 60

Master_Log_File: mysql-bin.000001

Read_Master_Log_Pos: 98

Relay_Log_File: mysqld-relay-bin.000004

Relay_Log_Pos: 235

Relay_Master_Log_File: mysql-bin.000001

Slave_IO_Running: Yes

Slave_SQL_Running: Yes

Replicate_Do_DB: mms_sdmtv

Replicate_Ignore_DB:

Replicate_Do_Table:

Replicate_Ignore_Table:

Replicate_Wild_Do_Table:

Replicate_Wild_Ignore_Table:

Last_Errno: 0

Last_Error:

Skip_Counter: 0

Exec_Master_Log_Pos: 98

Relay_Log_Space: 235

Until_Condition: None

Until_Log_File:

Until_Log_Pos: 0

Master_SSL_Allowed: No

Master_SSL_CA_File:

Master_SSL_CA_Path:

Master_SSL_Cert:

Master_SSL_Cipher:

Master_SSL_Key:

Seconds_Behind_Master: 0

1 row in set (0.00 sec)

Slave_IO_Running:连接到主库,并读取主库的日志到本地,生成本地日志文件Slave_SQL_Running:读取本地日志文件,并执行日志里的SQL命令。其返回状态均为Yes证明配置正确。

二、        业务模拟测试

在主数据库服务器上进行增删改操作后验证slave1slave2是否进行了数据的同步。经验证达到预期目的如果没有同步请参阅该http://blog.chinaunix.net/uid-25723371-id-3388811.html博文如何设置主库与从库数据的实时同步。

1.6 Amoeba部署

1)          jdk的安装

本方案中在服务器安装前期已经规划好,所以系统已经自带jdk且版本符合业务需求。所以此步骤省略;

2)          获取amoeba安装介质

#wget http://nchc.dl.sourceforge.net/project/amoeba/Amoeba%20for%20mysql/2.2.x/amoeba-mysql-binary-2.2.0.tar.gz

3)          解压介质

#tar –xvf amoeba-mysql-binary-2.2.0.tar.gz  –C  /amoeba

4)          配置Amoeba

一、        修改主配置文件dbServers.xml

主要配置内容:

a)     需要读写分离的masterslave数据库名

b)    数据库服务器IP地址

c)     数据库资源池

d)    请求分发策略(两种策略:轮询、权重)

e)    服务口令、账号(不是mysql数据库的)

${defaultManager}

64

128

3306

mms_sdmtv

root

123abc

500

500

10

600000

600000

true

true

true

  parent="abstractServer">

11.0.211.5

  parent="abstractServer">

192.168.202.83

  parent="abstractServer">

192.168.202.84

1

slave1,slave2

二、        修改配置文件Amoeba.xml内容如下所示:

主要配置参数:

a)    数据库对外服务端口

b)    绑定ip地址

c)     数据库访问账号和口令

d)    默认访问数据库ip

e)    可以执行查询操作的数据库ip地址

f)     可以读写操作的数据库ip地址

8066

11.0.211.4

${clientConnectioneManager}

128

64

root

123abc

${amoeba.home}/conf/access_list.conf

127.0.0.1

true

${clientConnectioneManager}

20

30

30

500

60

com.meidusa.amoeba.net.ConnectionManager

com.meidusa.amoeba.net.AuthingableConnectionManager

${amoeba.home}/conf/dbServers.xml

${amoeba.home}/conf/rule.xml

${amoeba.home}/conf/ruleFunctionMap.xml

${amoeba.home}/conf/functionMap.xml

1500

master

master

multiPool

true

1.启动amoeba时报错如下所示:

root@server bin]# sh amoeba

The stack size specified is too small, Specify at least 160k

Could not create the Java virtual machine.

出现该问题的原因是amoeba启动时堆的内存设置太小导致

解决方法:调大amoeba启动文件xss配置参数问题解决

2.查看net.log日志发现如下大量报错信息

2012-12-14 12:18:38,062 ERROR net.MysqlServerConnection - handShake with /192.168.202.83:3306 error:Access denied for user 'root'@'10.0.211.5' (using password: NO),hashCode=496432309

2012-12-14 12:18:35,143 ERROR net.MysqlServerConnection - handShake with /192.168.202.84:3306 error:Access denied for user 'root'@'10.0.211.5' (using password: NO),hashCode=1805440858

出现该问题的原因是未配置dbServers.xml配置项123abc的口令并删掉注释后重启amoeba问题解决。

5)          服务验证测试

1.部署一台web服务器并将数据库连接池配置为jdbc:mysql://10.0.211.4:8066/mms_sdmtv后重启web服务进行登录发布测试OK

2.停止一台主数据库进行业务查询、插入及修改测试(此时masterB已接管服务)OK

3.停止其中任何一台mysqlslave服务进行数据插入、查询及修改操作测试OK

阅读(4633) | 评论(0) | 转发(0) |
给主人留下些什么吧!~~
评论热议
请登录后评论。

登录 注册