mysql-cluster集群原理介绍和搭建步骤(四个data/sql节点) (转)
MySQL簇概述
MySQL簇是一种技术,该技术允许在无共享的系统中部署“内存中”数据库的簇。通过无共享体系结构,系统能够使用廉价的硬件,而且对软硬件无特殊要求。此外,由于每个组件有自己的内存和磁盘,不存在单点故障。
MySQL簇将标准的MySQL服务器与名为NDB的“内存中”簇式存储引擎集成了起来。在我们的文档中,术语NDB指的是与存储引擎相关的设置部分,而术语“MySQL簇”指的是MySQL和NDB存储引擎的组合。
MySQL簇由一组计算机构成,每台计算机上均运行着多种进程,包括MySQL服务器,NDB簇的数据节点,管理服务器,以及(可能)专门的数据访问程序。关于簇中这些组件的关系,请参见下图:
所有这些程序一起构成了MySQL簇。将数据保存到NDB簇存储引擎中时,表将保存在数据节点内。能够从簇中所有其他MySQL服务器直接访问这些表。因此,在将数据保存在簇内的工资表应用程序中,如果某一应用程序更新了1位雇员的工资,所有查询该数据的其他MySQL服务器能立刻发现这种变化。
对于MySQL簇,保存在数据节点内的数据可被映射,簇能够处理单独数据节点的故障,除了少数事务将因事务状态丢失而被放弃外,不会产生其他影响。由于事务性应用程序能够处理事务失败事宜,因而它不是问题源。
通过将MySQL簇引入开放源码世界,MySQL为所有需要它的人员提供了具有高可用性、高性能和可缩放性的簇数据管理。
MySQL簇的基本概念
NDB是一种“内存中”存储引擎,它具有可用性高和数据一致性好的特点。
能够使用多种故障切换和负载平衡选项配置NDB存储引擎,但以簇层面上的存储引擎开始最简单。MySQL簇的NDB存储引擎包含完整的数据集,仅取决于簇本身内的其他数据。
下面,我们介绍了设置由NDB存储引擎和一些MySQL服务器构成的MySQL簇的设置方法。
目前,MySQL簇的簇部分可独立于MySQL服务器进行配置。在MySQL簇中,簇的每个部分被视为1个节点。
注释:在很多情况下,术语“节点”用于指计算机,但在讨论MySQL簇时,它表示的是进程。在单台计算机上可以有任意数目的节点,为此,我们采用术语簇主机。
有三类簇节点,在最低的MySQL簇配置中,至少有三个节点,这三类节点分别是:
管理(MGM)节点:这类节点的作用是管理MySQL簇内的其他节点,如提供配置数据、启动并停止节点、运行备份等。由于这类节点负责管理其他节点的配置,应在启动其他节点之前首先启动这类节点。MGM节点是用命令ndb_mgmd启动的。
数据节点:这类节点用于保存簇的数据。数据节点的数目与副本的数目相关,是片段的倍数。例如,对于两个副本,每个副本有两个片段,那么就有4个数据节点。没有必要有一个以上的副本。数据节点是用命令ndbd启动的。
SQL节点:这是用来访问簇数据的节点。对于MySQL簇,客户端节点是使用NDB簇存储引擎的传统MySQL服务器。典型情况下,SQL节点是使用命令mysqld –ndbcluster启动的,或将ndbcluster添加到my.cnf后使用mysqld启动。
簇配置包括对簇中单独节点的配置,以及设置节点之间的单独通信链路。对于目前设计的MySQL簇,其意图在于,从处理器的能力、内存空间和带宽来讲,存储节点是同质的,此外,为了提供单一的配置点,作为整体,簇的所有配置数据均位于1个配置文件中。
管理服务器(MGM节点)负责管理簇配置文件和簇日志。簇中的每个节点从管理服务器检索配置数据,并请求确定管理服务器所在位置的方式。当数据节点内出现有趣的事件时,节点将关于这类事件的信息传输到管理服务器,然后,将这类信息写入簇日志。
此外,可以有任意数目的簇客户端进程或应用程序。它们分为两种类型:
标准MySQL客户端:对于MySQL簇,它们与标准的(非簇类)MySQL没有区别。换句话讲,能够从用PHP、Perl、C、C++、Java、Python、Ruby等编写的现有MySQL应用程序访问MySQL簇。
管理客户端:这类客户端与管理服务器相连,并提供了优雅地启动和停止节点、启动和停止消息跟踪(仅对调试版本)、显示节点版本和状态、启动和停止备份等的命令。
-----------------------------------------------------------------------------------以上部分是摘自官方文档
搭建sql节点(4个),data节点(4个),manage节点(1个)步骤
//环境介绍
1、manage节点:10.10.54.154
2、sql/data节点:10.10.54.154/155/156/157
//编译安装cmake2.8
[154/155/156/157]
1.下载mysql-cluster cmake
shell> wget http://dev.mysql.com/get/Downloads/MySQL-Cluster-7.2/mysql-cluster-gpl-7.2.15-linux2.6-x86_64.tar.gz
shell> wget http://www.cmake.org/files/v2.8/cmake-2.8.12.2.tar.gz
2.编译安装cmake2.8---(154/155/156/157)
shell> tar xvf cmake-2.8.12.2.tar.gz
shell> cd cmake-2.8.12.2
shell> ./configure
shell> make
shell> make install
3.编译安装mysql-cluster---(154/155/156/157)
shell> tar xvf mysql-cluster-gpl-7.2.15.tar.gz
shell> cd mysql-cluster-gpl-7.2.15
shell> cmake -DCMAKE_INSTALL_PREFIX=/usr/local/mysql \
-DMYSQL_UNIX_ADDR=/usr/local/mysql/tmp/mysql-cluster.sock \
-DDEFAULT_CHARSET=utf8 \
-DDEFAULT_COLLATION=utf8_general_ci \
-DEXTRA_CHARSETS=all \
-DWITH_EMBEDDED_SERVER=0 \
-DWITH_NDB_JAVA=OFF \
-DWITH_MYISAM_STORAGE_ENGINE=1 \
-DWITH_INNOBASE_STORAGE_ENGINE=1 \
-DWITH_MEMORY_STORAGE_ENGINE=1 \
-DWITH_BLACKHOLE_STORAGE_ENGINE=1 \
-DWITH_FEDERATED_STORAGE_ENGINE=1 \
-DWITH_PARTITION_STORAGE_ENGINE=1 \
-DWITH_NDBCLUSTER_STORAGE_ENGINE=1 \
-DENABLED_LOCAL_INFILE=1 \
-DMYSQL_USER=mysql \
-DWITH_DEBUG=0 \
-DWITH_SSL=yes
4.shell> make && make install
//mysql-cluster配置---(154/155/156/157)
shell> mkdir /data/ndb
shell> cd /home/mysql-cluster-gpl-7.2.15
shell> cp support-files/mysql.server /etc/init.d/mysqld
shell> cp support-files/my-large.cnf /etc/my.cnf
shell> chown mysql.mysql /usr/local/mysql -R
shell> chmod 755 /usr/local/mysql/scripts/*
shell> chmod 755 /etc/init.d/mysqld
shell> sed -i "/
/a datadir=/data/ndb" /etc/my.cnf
shell> /usr/local/mysql/scripts/mysql_install_db --user=root --basedir=/usr/local/mysql --datadir=/data/ndb
shell> chown mysql:mysql -R /data/ndb
//data/sql节点配置---(154/155/156/157)
shell> cd /usr/local/mysql/bin/
shell> cp ndb_mgm* /usr/local/bin/
shell> vim /etc/my.cnf
-------------------------
[mysql_cluster]
ndb-connectstring=10.10.54.154
[mysqld]
datadir=/data/ndb
ndbcluster
ndb-connectstring=10.10.54.154
-------------------------
//管理节点154配置
shell> mkdir -p /etc/ndb/config.ini
shell> vim /etc/ndb/config.ini
--------------------------------------
[NDBD DEFAULT]
NoOfReplicas=2
DataMemory=128M
IndexMemory=64M
[TCP DEFAULT]
portnumber=2202
[NDB_MGMD]
NodeId=1
hostname=10.10.54.154
datadir=/var/lib/mysql-cluster
[NDBD]
NodeId=2
hostname=10.10.54.154
datadir=/data/ndb
BackupDataDir=/data/backup
[NDBD]
NodeId=3
hostname=10.10.54.155
datadir=/data/ndb
BackupDataDir=/data/backup
[NDBD]
NodeId=4
hostname=10.10.54.156
datadir=/data/ndb
BackupDataDir=/data/backup
[NDBD]
NodeId=5
hostname=10.10.54.157
datadir=/data/ndb
BackupDataDir=/data/backup
[MYSQLD]
NodeId=7
hostname=10.10.54.154
[MYSQLD]
NodeId=8
hostname=10.10.54.155
[MYSQLD]
NodeId=9
hostname=10.10.54.156
[MYSQLD]
NodeId=10
hostname=10.10.54.157
[MYSQLD]
NodeId=11
[MYSQLD]
NodeId=12
[MYSQLD]
NodeId=13
[MYSQLD]
NodeId=14
------------------------------------
//启动mysql-cluster
---启动顺序management node--data node---sql node
#启动管理节点
shell> ndb_mgmd -f /var/lib/mysql-cluster/config.ini --initial
##--initial参数第一次启动时加上
#启动数据节点
shell> ndbd #--initial ##初始化数据库,用在备份,恢复时
2014-02-27 18:14:23 [ndbd] INFO -- Angel connected to '10.10.54.154:1186'
2014-02-27 18:14:23 [ndbd] INFO -- Angel allocated nodeid: 2
#启动sql节点
shell> /etc/init.d/mysqld start
//查看mysql集群状态
shell> ndb_mgm
ndb_mgm> show
Cluster Configuration
---------------------
[ndbd(NDB)] 4 node(s)
id=2 @10.10.54.154 (mysql-5.5.35 ndb-7.2.15, Nodegroup: 0, *)
id=3 @10.10.54.155 (mysql-5.5.35 ndb-7.2.15, Nodegroup: 0)
id=4 @10.10.54.156 (mysql-5.5.35 ndb-7.2.15, Nodegroup: 1)
id=5 @10.10.54.157 (mysql-5.5.35 ndb-7.2.15, Nodegroup: 1)
[ndb_mgmd(MGM)] 1 node(s)
id=1 @10.10.54.154 (mysql-5.5.35 ndb-7.2.15)
[mysqld(API)] 8 node(s)
id=7 @10.10.54.154 (mysql-5.5.35 ndb-7.2.15)
id=9 @10.10.54.155 (mysql-5.5.35 ndb-7.2.15)
id=10 @10.10.54.156 (mysql-5.5.35 ndb-7.2.15)
id=11 @10.10.54.157 (mysql-5.5.35 ndb-7.2.15)
id=12 (not connected, accepting connect from any host)
id=13 (not connected, accepting connect from any host)
id=14 (not connected, accepting connect from any host)
id=15 (not connected, accepting connect from any host)
//测试mysql-cluster
1.管理机上创建表
mysql> create database d1;
mysql> use d1;
mysql> CREATE TABLE `t_e` (
`emp_no` int(11) NOT NULL,
`birth_date` date NOT NULL,
`first_name` varchar(14) NOT NULL,
`last_name` varchar(16) NOT NULL,
`gender` enum('M','F') NOT NULL,
`hire_date` date NOT NULL,
PRIMARY KEY (`emp_no`)
) ENGINE=ndbcluster DEFAULT CHARSET=utf8
2.mysql> insert into t_e select * from employees.employees;
##插入出错
ERROR 1297 (HY000): Got temporary error 233 'Out of operation records in transaction coordinator (increase MaxNoOfConcurrentOperations)' from NDBCLUSTER
#原因时插入数据量太大
mysql> insert into t_e select * from employees.employees limit 10000;
#插入成功
3.data节点上查看,数据已同步
//关闭mysql-cluster
1.先关闭sql节点
/etc/init.d/mysqld stop
2.在管理机上
shell> ndb_mgm
ndb_mgm> shutdown #关闭所有cluster进程