大數(shù)據(jù)時代搭建高可用mongodb集群配置教程

在大數(shù)據(jù)的時代，傳統(tǒng)的關系型數(shù)據(jù)庫要能更高的服務必須要解決高并發(fā)讀寫、海量數(shù)據(jù)高效存儲、高可擴展性和高可用性這些難題。不過就是因為這些問題Nosql誕生了。

NOSQL有這些優(yōu)勢：

大數(shù)據(jù)量，可以通過廉價服務器存儲大量的數(shù)據(jù)，輕松擺脫傳統(tǒng)mysql單表存儲量級限制。

高擴展性，Nosql去掉了關系數(shù)據(jù)庫的關系型特性，很容易橫向擴展，擺脫了以往老是縱向擴展的詬病。

高性能，Nosql通過簡單的key-value方式獲取數(shù)據(jù)，非常快速。還有NoSQL的Cache是記錄級的，是一種細粒度的Cache，所以NoSQL在這個層面上來說就要性能高很多。

靈活的數(shù)據(jù)模型，NoSQL無需事先為要存儲的數(shù)據(jù)建立字段，隨時可以存儲自定義的數(shù)據(jù)格式。而在關系數(shù)據(jù)庫里，增刪字段是一件非常麻煩的事情。如果是非常大數(shù)據(jù)量的表，增加字段簡直就是一個噩夢。

高可用，NoSQL在不太影響性能的情況，就可以方便的實現(xiàn)高可用的架構。比如mongodb通過mongos、mongo分片就可以快速配置出高可用配置。

在nosql數(shù)據(jù)庫里，大部分的查詢都是鍵值對（key、value）的方式。MongoDB是一個介于關系數(shù)據(jù)庫和非關系數(shù)據(jù)庫之間的產品，是非關系數(shù)據(jù)庫當中最像關系數(shù)據(jù)庫的。支持類似于面向對象的查詢語言，幾乎可以實現(xiàn)類似關系數(shù)據(jù)庫單表查詢的絕大部分功能，而且還支持對數(shù)據(jù)建立索引。所以這個非常方便，我們可以用sql操作MongoDB，從關系型數(shù)據(jù)庫遷移過來，開發(fā)人員學習成本會大大減少。如果再對底層的sql API做一層封裝，開發(fā)基本可以感覺不到mongodb和關系型數(shù)據(jù)庫的區(qū)別。同樣MongoDB也是號稱自己能夠快速搭建一個高可用可擴展的的分布式集群，網上有很多搭建的文章，在我們搭建的時候還需要查找修改很多東西，所以把自己實戰(zhàn)的步驟記錄下來以備忘。我們看看如何一步一步搭建這個東東。

一、mongodb單實例。這種配置只適合簡易開發(fā)時使用，生產使用不行，因為單節(jié)點掛掉整個數(shù)據(jù)業(yè)務全掛，如下圖。

雖然不能生產使用，但這個模式可以快速搭建啟動，并且能夠用mongodb的命令操作數(shù)據(jù)庫。下面列出在linux下安裝單節(jié)點mongodb的步驟

1、建立mongodb測試文件夾

1#存放整個mongodb文件
2mkdir -p /data/mongodbtest/single 
3
4#存放mongodb數(shù)據(jù)文件
5mkdir -p /data/mongodbtest/single/data
6
7#進入mongodb文件夾
8 cd /data/mongodbtest/single

1wget http://fastdl.mongodb.org/linux/mongodb-linux-x86_64-2.4.6.tgz
2
3#解壓下載的壓縮包 
4tar xvzf mongodb-linux-x86_64-2.4.6.tgz
5
6#進入mongodb程序執(zhí)行文件夾
7 cd mongodb-linux-x86_64-2.4.6/bin/

2、下載mongodb的安裝程序包

3、啟動單實例mongodb

1	mongod  --dbpath /data/mongodbtest/single/data

輸出日志如下，成功！

[initandlisten] db version v2.4.6
……..
[initandlisten] waiting for connections on port 27017
[websvr] admin web console waiting for connections on port 28017

mongodb默認自帶提供了web訪問接口，通過 IP + 端口的形式可以訪問。

http://192.168.0.1:28017/

二、主從模式。使用mysql數(shù)據(jù)庫時大家廣泛用到，采用雙機備份后主節(jié)點掛掉了后從節(jié)點可以接替主機繼續(xù)服務。所以這種模式比單節(jié)點的高可用性要好很多。

下面看一下怎么一步步搭建一個mongodb的主從復制節(jié)點：

1、準備兩臺機器 192.168.0.1 和 192.168.0.2。 192.168.0.1 當作主節(jié)點， 192.168.0.2作為從節(jié)點。

2、分別下載mongodb安裝程序包。在192.168.0.1上建立文件夾 /data/mongodbtest/master，192.168.0.2建立文件夾/data/mongodbtest/slave。

3、在192.168.0.1啟動mongodb主節(jié)點程序。注意后面的這個 “ –master ”參數(shù)，標示主節(jié)點。

mongod –dbpath /data/mongodbtest/master –master

輸出日志如下，成功！

[initandlisten] MongoDB starting : pid=18285 port=27017 dbpath=/data/mongodbtest/master master=1
#日志顯示主節(jié)點參數(shù)
[initandlisten] options: { dbpath: “/data/mongodbtest/master”, master: true }
……..
[initandlisten] waiting for connections on port 27017

4、在192.168.0.2啟動mongodb從節(jié)點程序。關鍵配置，指定主節(jié)點ip地址和端口 –source 192.168.0.1:27017 和 標示從節(jié)點 –source 參數(shù)。

mongod –dbpath /data/mongodbtest/slave –slave –source 192.168.0.1:27017

輸出日志如下，成功！

[initandlisten] MongoDB starting : pid=17888 port=27017 dbpath=/data/mongodbtest/slave slave=1
……..
#日志顯示從節(jié)點參數(shù)
[initandlisten] options: { dbpath: “/data/mongodbtest/slave”, slave: true, source: “192.168.0.1:27017″ }
……..
[initandlisten] waiting for connections on port 27017
#日志顯示從節(jié)點 從主節(jié)點同步復制數(shù)據(jù)
[replslave] repl: from host:192.168.0.1:27017

5、測試主從復制。

在主節(jié)點上連接到終端：

1 2 3 4 5 6 7 8 9 10 11

mongo 127.0.0.1 #建立test 數(shù)據(jù)庫。 use test; 往testdb表插入數(shù)據(jù)。 > db.testdb.insert({"test1":"testval1"}) 查詢testdb數(shù)據(jù)看看是否成功。 > db.testdb.find(); { "_id" : ObjectId("5284e5cb1f4eb215b2ecc463"), "test1" : "testval1" }

可以看到主機的同步日志

[initandlisten] connection accepted from 192.168.0.2:37285 #3 (2 connections now open)
[slaveTracking] update local.slaves query: { _id: ObjectId(’5284e6268ed115d6238bdb39′), config: { host: “192.168.0.2:35271″, upgradeNeeded: true }, ns: “l(fā)ocal.oplog.$main” } update: { $set: { syncedTo: Timestamp 1384441570000|1 } } nscanned:1 nupdated:1 fastmod:1 keyUpdates:0 locks(micros) w:132015 132ms

檢查從主機的數(shù)據(jù)。

mongo 127.0.0.1

查看當前數(shù)據(jù)庫。

1 2 3 4 5 6 7

> show dbs;   local   0.203125GB   test    0.203125GB use test; db.testdb.find(); { "_id" : ObjectId("5284e5cb1f4eb215b2ecc463"), "test1" : "testval1" }

查詢后數(shù)據(jù)已經同步過來了。再看看日志，發(fā)現(xiàn)從主機確實從主機同步了數(shù)據(jù)。

1 2	Thu Nov 14 23:05:13 [replslave] repl:   checkpoint applied 15 operations Thu Nov 14 23:05:13 [replslave] repl:   syncedTo: Nov 14 23:08:10 5284e75a:1

查看服務狀態(tài)

1 2 3 4 5

> db.printReplicationInfo();           this is a slave, printing slave replication info.           source:   192.168.0.1:27017               syncedTo: Sun Nov 17 2013 16:04:02 GMT+0800 (CST)                       = -54 secs ago (-0.01hrs)

到此主從結構的mongodb搭建好了。

故障轉移測試，現(xiàn)在兩臺服務器如果主服務器掛掉了，從服務器可以正常運轉嗎？

a、先測試下從服務器可以當成主服務器嗎，也就是往從服務器里寫能夠同步主服務器嗎？

在192.168.0.2上連接mongodb。

1 2 3

mongo 127.0.0.1:27017 > db.testdb.insert({"test3":"testval3"}); not master

可以看到 mongodb的從節(jié)點是不能提供寫操作的，只能提供讀操作。

b、如果從服務器掛掉，主服務器還可以提供服務。如果主服務器掛掉了從服務器能否自動變?yōu)榭蓪憽?br />測試一下！

先殺掉原來的mongodb主服務器。

1	kill -3 `ps -ef|grep mongod|grep -v grep|awk '{print $2}'`

測試從服務器能否可寫。在192.168.0.2上連接mongodb測試。

1 2	> db.testdb.insert({"test3":"testval3"}); not master

看起來從服務器沒有自動接替主服務器的功能，只有手工處理了！

停止從服務器，在原數(shù)據(jù)文件啟動并添加主服務器標示。

1	mongod  --dbpath /data/mongodbtest/slave --master

等到啟動成功（時間有點長）。在192.168.0.2 上 連接

1	mongo 192.168.0.2:27017

。

1 2 3

> db.testdb.find(); { "_id" : ObjectId("5288629e9b0318be4b20bd4c"), "test1" : "testval1" } { "_id" : ObjectId("528862d69b0318be4b20bd4d"), "test2" : "testval2" }

成功！

多個從節(jié)點。現(xiàn)在只是一個數(shù)據(jù)庫服務器又提供寫又提供讀，機器承載會出現(xiàn)瓶頸。大家還記得mysql里的讀寫分離嗎？把20%的寫放到主節(jié)點，80%的讀放到從節(jié)點分攤了減少了服務器的負載。但是大部分應用都是讀操作帶來的壓力，一個從節(jié)點壓力負載不了，可以把一個從節(jié)點變成多個節(jié)點。那mongodb的一主多從可以支持嗎？答案是肯定的。

為了方便測試，在192.168.0.2上再建立一個文件夾 /data/mongodbtest/slave2 作為另一個slave服務器。
啟動slave2服務，

1	mongod  --dbpath /data/mongodbtest/slave1 --slave  --port 27017 --source 192.168.0.1:27017。

成功啟動后通過mongodb連接測試：

1 2 3

> db.testdb.find(); { "_id" : ObjectId("5288629e9b0318be4b20bd4c"), "test1" : "testval1" } { "_id" : ObjectId("528862d69b0318be4b20bd4d"), "test2" : "testval2" }