濮阳杆衣贸易有限公司

主頁 > 知識庫 > Sqlserver 高并發(fā)和大數(shù)據(jù)存儲方案

Sqlserver 高并發(fā)和大數(shù)據(jù)存儲方案

熱門標(biāo)簽:家庭農(nóng)場地圖標(biāo)注名稱怎樣起名 安卡拉地圖標(biāo)注app 零成本地圖標(biāo)注賺錢 400電話辦理泰安 千呼電話機器人可以試用嗎 電銷需要外呼系統(tǒng)嗎 電話機器人怎么代理商 互聯(lián)網(wǎng)電話外呼系統(tǒng) 我要地圖標(biāo)注數(shù)量有限制嗎

隨著用戶的日益遞增,日活和峰值的暴漲,數(shù)據(jù)庫處理性能面臨著巨大的挑戰(zhàn)。下面分享下對實際10萬+峰值的平臺的數(shù)據(jù)庫優(yōu)化方案。與大家一起討論,互相學(xué)習(xí)提高!

案例:游戲平臺.

1、解決高并發(fā)

當(dāng)客戶端連接數(shù)達到峰值的時候,服務(wù)端對連接的維護與處理這里暫時不做討論。當(dāng)多個寫請求到數(shù)據(jù)庫的時候,這時候需要對多張表進行插入,尤其一些表 達到每天千萬+的存儲,隨著時間的積累,傳統(tǒng)的同步寫入數(shù)據(jù)的方式顯然不可取,經(jīng)過試驗,通過異步插入的方式改善了許多,但與此同時,對讀取數(shù)據(jù)的實時性也需要做一定的犧牲。

異步的方式有很多,目前采取的方式是通過作業(yè)每隔一段時間(5min、10min..看需求設(shè)定)將臨時表的數(shù)據(jù)轉(zhuǎn)到真實表。

1. 已有原始表A 也是在讀取的時候真正用到的表。

2. 建立與原始表A同結(jié)構(gòu)的B和C,用來作數(shù)據(jù)的中轉(zhuǎn)處理,同步流程是C->B->A。

3. 建立同步數(shù)據(jù)的作業(yè)Job1和記錄Job1運行狀態(tài)的表,在同步的時候比較關(guān)鍵的是需要檢查Job1的當(dāng)前狀態(tài),如果當(dāng)前正在將B的數(shù)據(jù)同步到A,則把服務(wù)端過來的數(shù)據(jù)存到C,然后再把數(shù)據(jù)導(dǎo)入到B,等到下一次Job執(zhí)行的時候再將這批數(shù)據(jù)轉(zhuǎn)到A。如圖1:

圖1

同時,為保萬無一失和便于排查問題,應(yīng)該用一個記錄整個數(shù)據(jù)庫實例的存儲過程,在較短的時間檢查作業(yè)執(zhí)行結(jié)果,如果遇到異常失敗的,應(yīng)該及時通過其他方式通知到相關(guān)人員。如寫入到發(fā)郵件和短信表,讓一個Tcp的通知程序定時讀取發(fā)送等等。

注:如果一天的數(shù)據(jù)達到幾十個G,如果又對這個表有查詢要求(分區(qū)下面會提到),下策之一:

可將B同時同步到多臺服務(wù)器分擔(dān)下查詢壓力,減少資源的競爭。因為整個數(shù)據(jù)庫的資源是有限的,如插入操作,會先獲得一個共享鎖,然后通過聚集索引定位到某一行數(shù)據(jù),再升級為意向鎖,而sqlserver對鎖的維護根據(jù)數(shù)據(jù)的大小需要申請不同的內(nèi)存,造成了資源的競爭。所以應(yīng)該盡可能的將讀和寫分開,可根據(jù)業(yè)務(wù)模型分,可根據(jù)設(shè)定的規(guī)則分;在平臺性的項目中應(yīng)該優(yōu)先保證數(shù)據(jù)能有效的插入。

在不可避免的查詢大數(shù)據(jù)肯定會耗用大量的資源,如遇到批量刪除的時候,可以換成以循環(huán)分批次(如一次2000條)的方式,這樣不至于這個進程導(dǎo)致整個庫掛掉,衍生出一些無法預(yù)計的bug。經(jīng)實踐,有效可行,只是犧牲了存儲空間。也可根據(jù)查詢需求將表里數(shù)據(jù)量大的字段拆分出來到新表,當(dāng)然這些也要根據(jù)每個業(yè)務(wù)場景結(jié)合需求來設(shè)定,設(shè)計出適合而并不需要華麗的方案即可。

 2、解決存儲問題

如果每天單表的數(shù)據(jù)都達到了幾十個G,改善存儲方案自然迫不及待了?,F(xiàn)分享下自有的方案,在暴漲的數(shù)據(jù)摧殘之下,仍堅守在一線!現(xiàn)舉例對自有環(huán)境分享拙見:

現(xiàn)有數(shù)據(jù)表A,單表每天新增數(shù)據(jù)30G,在存儲的時候采用異步將數(shù)據(jù)同步的方式,有的不能清除數(shù)據(jù)的表,在分區(qū)后還可分文件組,將文件組分配到不同的磁盤中,減少IO資源的競爭,保障現(xiàn)有資源的正常運行?,F(xiàn)結(jié)合需求保留歷史數(shù)據(jù)5天:

1. 這時需要通過作業(yè)job根據(jù)分區(qū)函數(shù)去生成分區(qū)方案,如根據(jù)userid或者時間字段來分區(qū);

2. 將表分區(qū)后,查詢可以通過對應(yīng)的索引,快速定位到某一段分區(qū);

3. 通過作業(yè)合并分區(qū)將不要的分區(qū)數(shù)據(jù)轉(zhuǎn)移到相同結(jié)構(gòu)和索引的表,然后清除這個表的數(shù)據(jù)。

如圖2:

圖2

通過sql查詢跟蹤捕捉到查詢耗時長的,以及通過sql自帶的存儲過程sp_lock或視圖dm_tran_locks、dblockinfo查看當(dāng)前實例存在的鎖的類型和粒度。

定位到具體的查詢語句或者存儲過程之后,對癥下藥!藥到病除!

以上就是本文的全部內(nèi)容,希望本文的內(nèi)容對大家的學(xué)習(xí)或者工作能帶來一定的幫助,同時也希望多多支持腳本之家!

您可能感興趣的文章:
  • SqlServer 在事務(wù)中獲得自增ID的實例代碼
  • SQLServer中防止并發(fā)插入重復(fù)數(shù)據(jù)的方法詳解
  • SqlServer中模糊查詢對于特殊字符的處理方法
  • sqlServer實現(xiàn)去除字符串空格
  • 淺談sqlserver下float的不確定性

標(biāo)簽:大同 池州 東營 濱州 來賓 文山 新鄉(xiāng) 黃山

巨人網(wǎng)絡(luò)通訊聲明:本文標(biāo)題《Sqlserver 高并發(fā)和大數(shù)據(jù)存儲方案》,本文關(guān)鍵詞  Sqlserver,高并發(fā),高,并發(fā),;如發(fā)現(xiàn)本文內(nèi)容存在版權(quán)問題,煩請?zhí)峁┫嚓P(guān)信息告之我們,我們將及時溝通與處理。本站內(nèi)容系統(tǒng)采集于網(wǎng)絡(luò),涉及言論、版權(quán)與本站無關(guān)。
  • 相關(guān)文章
  • 下面列出與本文章《Sqlserver 高并發(fā)和大數(shù)據(jù)存儲方案》相關(guān)的同類信息!
  • 本頁收集關(guān)于Sqlserver 高并發(fā)和大數(shù)據(jù)存儲方案的相關(guān)信息資訊供網(wǎng)民參考!
  • 推薦文章
    武功县| 西乡县| 安乡县| 天柱县| 安吉县| 祁门县| 平定县| 鸡泽县| 商都县| 合作市| 来宾市| 东山县| 平定县| 廉江市| 达尔| 井冈山市| 文安县| 华蓥市| 九江县| 特克斯县| 微山县| 台江县| 彰化县| 龙江县| 郓城县| 安宁市| 宁陕县| 台湾省| 汝州市| 岐山县| 珲春市| 三门县| 柘城县| 枣阳市| 宁化县| 郸城县| 临朐县| 宜昌市| 库伦旗| 小金县| 如东县|