濮阳杆衣贸易有限公司

主頁 > 知識庫 > MySQL分庫分表總結(jié)講解

MySQL分庫分表總結(jié)講解

熱門標簽:電話機器人市場趨勢 電銷機器人 行業(yè) 溫州瑞安400電話怎么申請 南昌高頻外呼系統(tǒng)哪家公司做的好 昆明電信400電話辦理 百度地圖標注后不顯示 電銷機器人各個細節(jié)介紹 俄國地圖標注app 淄博400電話申請

項目開發(fā)中,我們的數(shù)據(jù)庫數(shù)據(jù)越來越大,隨之而來的是單個表中數(shù)據(jù)太多。以至于查詢變慢,而且由于表的鎖機制導致應(yīng)用操作也受到嚴重影響,出現(xiàn)了數(shù)據(jù)庫性能瓶頸。

當出現(xiàn)這種情況時,我們可以考慮分庫分表,即將單個數(shù)據(jù)庫或表進行拆分,拆分成多個庫和多個數(shù)據(jù)表,然后用戶訪問的時候,根據(jù)一定的算法與邏輯,讓用戶訪問不同的庫、不同的表,這樣數(shù)據(jù)分散到多個數(shù)據(jù)表中,減少了單個數(shù)據(jù)表的訪問壓力。提升了數(shù)據(jù)庫訪問性能。

下面是對項目中分庫分表的一些總結(jié):

單庫單表

單庫單表是最常見的數(shù)據(jù)庫設(shè)計,例如,有一張用戶(user)表放在數(shù)據(jù)庫db中,所有的用戶都可以在db庫中的user表中查到。

單庫多表

隨著用戶數(shù)量的增加,user表的數(shù)據(jù)量會越來越大,當數(shù)據(jù)量達到一定程度的時候?qū)ser表的查詢會漸漸的變慢,從而影響整個DB的性能。如果使用mysql, 還有一個更嚴重的問題是,當需要添加一列的時候,mysql會鎖表,期間所有的讀寫操作只能等待。

可以通過某種方式將user進行水平的切分,產(chǎn)生兩個表結(jié)構(gòu)完全一樣的user_0000,user_0001等表,user_0000 + user_0001 + …的數(shù)據(jù)剛好是一份完整的數(shù)據(jù)。

多庫多表

隨著數(shù)據(jù)量增加也許單臺DB的存儲空間不夠,隨著查詢量的增加單臺數(shù)據(jù)庫服務(wù)器已經(jīng)沒辦法支撐。這個時候可以再對數(shù)據(jù)庫進行水平區(qū)分。

分庫分表規(guī)則

設(shè)計表的時候需要確定此表按照什么樣的規(guī)則進行分庫分表。例如,當有新用戶時,程序得確定將此用戶信息添加到哪個表中;同理,當?shù)卿浀臅r候我們得通過用戶的賬號找到數(shù)據(jù)庫中對應(yīng)的記錄,所有的這些都需要按照某一規(guī)則進行。

路由

通過分庫分表規(guī)則查找到對應(yīng)的表和庫的過程。如分庫分表的規(guī)則是user_id mod 4的方式,當用戶新注冊了一個賬號,賬號id的123,我們可以通過id mod 4的方式確定此賬號應(yīng)該保存到User_0003表中。當用戶123登錄的時候,我們通過123 mod 4后確定記錄在User_0003中。

分庫分表產(chǎn)生的問題,及注意事項

1.分庫分表維度的問題

假如用戶購買了商品,需要將交易記錄保存取來,如果按照用戶的緯度分表,則每個用戶的交易記錄都保存在同一表中,所以很快很方便的查找到某用戶的購買情況,但是某商品被購買的情況則很有可能分布在多張表中,查找起來比較麻煩。反之,按照商品維度分表,可以很方便的查找到此商品的購買情況,但要查找到買人的交易記錄比較麻煩。

所以常見的解決方式有:

a.通過掃表的方式解決,此方法基本不可能,效率太低了。

b.記錄兩份數(shù)據(jù),一份按照用戶緯度分表,一份按照商品維度分表。

c.通過搜索引擎解決,但如果實時性要求很高,又得關(guān)系到實時搜索。

2.聯(lián)合查詢的問題

聯(lián)合查詢基本不可能,因為關(guān)聯(lián)的表有可能不在同一數(shù)據(jù)庫中。

3.避免跨庫事務(wù)

避免在一個事務(wù)中修改db0中的表的時候同時修改db1中的表,一個是操作起來更復(fù)雜,效率也會有一定影響。

4.盡量把同一組數(shù)據(jù)放到同一DB服務(wù)器上

例如將賣家a的商品和交易信息都放到db0中,當db1掛了的時候,賣家a相關(guān)的東西可以正常使用。也就是說避免數(shù)據(jù)庫中的數(shù)據(jù)依賴另一數(shù)據(jù)庫中的數(shù)據(jù)。

一主多備

在實際的應(yīng)用中,絕大部分情況都是讀遠大于寫。Mysql提供了讀寫分離的機制,所有的寫操作都必須對應(yīng)到Master,讀操作可以在Master和Slave機器上進行,Slave與Master的結(jié)構(gòu)完全一樣,一個Master可以有多個Slave,甚至Slave下還可以掛Slave,通過此方式可以有效的提高DB集群的QPS.                                                      

所有的寫操作都是先在Master上操作,然后同步更新到Slave上,所以從Master同步到Slave機器有一定的延遲,當系統(tǒng)很繁忙的時候,延遲問題會更加嚴重,Slave機器數(shù)量的增加也會使這個問題更加嚴重。

此外,可以看出Master是集群的瓶頸,當寫操作過多,會嚴重影響到Master的穩(wěn)定性,如果Master掛掉,整個集群都將不能正常工作。

所以

1.當讀壓力很大的時候,可以考慮添加Slave機器的分式解決,但是當Slave機器達到一定的數(shù)量就得考慮分庫了。

2.當寫壓力很大的時候,就必須得進行分庫操作。

MySQL使用為什么要分庫分表

可以用說用到MySQL的地方,只要數(shù)據(jù)量一大, 馬上就會遇到一個問題,要分庫分表.

這里引用一個問題為什么要分庫分表呢?MySQL處理不了大的表嗎?

其實是可以處理的大表的.我所經(jīng)歷的項目中單表物理上文件大小在80G多,單表記錄數(shù)在5億以上,而且這個表屬于一個非常核用的表:朋友關(guān)系表.

但這種方式可以說不是一個最佳方式. 因為面臨文件系統(tǒng)如Ext3文件系統(tǒng)對大于大文件處理上也有許多問題. 這個層面可以用xfs文件系統(tǒng)進行替換.但MySQL單表太大后有一個問題是不好解決: 表結(jié)構(gòu)調(diào)整相關(guān)的操作基本不在可能.所以大項在使用中都會面監(jiān)著分庫分表的應(yīng)用.

從Innodb本身來講數(shù)據(jù)文件的Btree上只有兩個鎖, 葉子節(jié)點鎖和子節(jié)點鎖,可以想而知道,當發(fā)生頁拆分或是添加新葉時都會造成表里不能寫入數(shù)據(jù). 所以分庫分表還就是一個比較好的選擇了.

那么分庫分表多少合適呢?

經(jīng)測試在單表1000萬條記錄以下,寫入讀取性能是比較好的. 這樣在留點buffer,那么單表全是數(shù)據(jù)字型的保持在800萬條記錄以下, 有字符型的單表保持在500萬以下.

如果按 100庫100表來規(guī)劃,如用戶業(yè)務(wù):

500萬*100*100 = 50000000萬 = 5000億記錄.

心里有一個數(shù)了,按業(yè)務(wù)做規(guī)劃還是比較容易的.

真題

設(shè)定網(wǎng)站用戶數(shù)量在千萬級,但是活躍用戶數(shù)量只有1%,如何通過優(yōu)化數(shù)據(jù)庫提高活躍用戶訪問速度?

答:

可以使用MySQL的分區(qū),把活躍用戶分在一個區(qū),不活躍用戶分在另外一個區(qū),本身活躍用戶區(qū)數(shù)據(jù)量比較少,因此可以提高活躍用戶訪問速度。

還可以水平分表,把活躍用戶分在一張表,不活躍用戶分在另一張表,可以提高活躍用戶訪問速度。

總結(jié)

以上就是這篇文章的全部內(nèi)容了,希望本文的內(nèi)容對大家的學習或者工作具有一定的參考學習價值,謝謝大家對腳本之家的支持。如果你想了解更多相關(guān)內(nèi)容請查看下面相關(guān)鏈接

您可能感興趣的文章:
  • 淺談訂單重構(gòu)之 MySQL 分庫分表實戰(zhàn)篇
  • MySQL分庫分表與分區(qū)的入門指南
  • mysql死鎖和分庫分表問題詳解
  • MySQL 分表分庫怎么進行數(shù)據(jù)切分
  • MySql分表、分庫、分片和分區(qū)知識深入詳解
  • MySql分表、分庫、分片和分區(qū)知識點介紹
  • mysql分表分庫的應(yīng)用場景和設(shè)計方式
  • mysql數(shù)據(jù)庫分表分庫的策略
  • MyBatis實現(xiàn)Mysql數(shù)據(jù)庫分庫分表操作和總結(jié)(推薦)
  • MYSQL數(shù)據(jù)庫數(shù)據(jù)拆分之分庫分表總結(jié)
  • Mysql數(shù)據(jù)庫分庫和分表方式(常用)
  • MYSQL性能優(yōu)化分享(分庫分表)
  • MySQL分庫分表詳情

標簽:洛陽 拉薩 吐魯番 嘉峪關(guān) 葫蘆島 安徽 甘南

巨人網(wǎng)絡(luò)通訊聲明:本文標題《MySQL分庫分表總結(jié)講解》,本文關(guān)鍵詞  MySQL,分庫,分表,總結(jié),講解,;如發(fā)現(xiàn)本文內(nèi)容存在版權(quán)問題,煩請?zhí)峁┫嚓P(guān)信息告之我們,我們將及時溝通與處理。本站內(nèi)容系統(tǒng)采集于網(wǎng)絡(luò),涉及言論、版權(quán)與本站無關(guān)。
  • 相關(guān)文章
  • 下面列出與本文章《MySQL分庫分表總結(jié)講解》相關(guān)的同類信息!
  • 本頁收集關(guān)于MySQL分庫分表總結(jié)講解的相關(guān)信息資訊供網(wǎng)民參考!
  • 推薦文章
    惠州市| 台南县| 武川县| 临潭县| 渭南市| 梁河县| 华蓥市| 新建县| 长阳| 揭东县| 曲水县| 红安县| 平塘县| 蓬莱市| 运城市| 宁都县| 麟游县| 磐石市| 华安县| 宜都市| 岳阳市| 德阳市| 若尔盖县| 东阳市| 桐庐县| 阜阳市| 长阳| 抚州市| 公主岭市| 准格尔旗| 新宾| 白河县| 清流县| 灵丘县| 沙坪坝区| 义乌市| 吉木萨尔县| 绿春县| 申扎县| 蓬安县| 明星|