刪除數(shù)據(jù)庫(kù)表中的數(shù)據(jù) mysql表數(shù)據(jù)量太大,達(dá)到了1億多條數(shù)據(jù),除了分庫(kù)分表之外,還有沒(méi)有其他的解決方式?
mysql表數(shù)據(jù)量太大,達(dá)到了1億多條數(shù)據(jù),除了分庫(kù)分表之外,還有沒(méi)有其他的解決方式?在正常配置下,MySQL只能承載2000萬(wàn)數(shù)據(jù)(同時(shí)讀寫(xiě),表中有大文本字段,單服務(wù)器)?,F(xiàn)在已經(jīng)超過(guò)1億,而且還在
mysql表數(shù)據(jù)量太大,達(dá)到了1億多條數(shù)據(jù),除了分庫(kù)分表之外,還有沒(méi)有其他的解決方式?
在正常配置下,MySQL只能承載2000萬(wàn)數(shù)據(jù)(同時(shí)讀寫(xiě),表中有大文本字段,單服務(wù)器)?,F(xiàn)在已經(jīng)超過(guò)1億,而且還在增加,建議按以下方式處理:
1子表。它可以按時(shí)間或一定的規(guī)則進(jìn)行拆分,以便盡可能地查詢(xún)子表中的數(shù)據(jù)庫(kù)。這是最有效的方法。特別是寫(xiě),放入一個(gè)新表,并定期同步。如果記錄不斷更新,最好將寫(xiě)入的數(shù)據(jù)放在redis中,并定期同步表3的大文本字段,將它們分隔成一個(gè)新的獨(dú)立表。對(duì)于較大的文本字段,可以使用NoSQL數(shù)據(jù)庫(kù)
4優(yōu)化體系結(jié)構(gòu),或者優(yōu)化SQL查詢(xún),避免聯(lián)合表查詢(xún),盡量不要使用count(*)、in、recursion等性能消耗語(yǔ)句
5使用內(nèi)存緩存,或者在前端讀取時(shí)增加緩存數(shù)據(jù)庫(kù)。重復(fù)讀取時(shí),直接從緩存中讀取。
以上是一種低成本的管理方法,基本上幾個(gè)服務(wù)器就可以做到,但是管理起來(lái)有點(diǎn)麻煩。
當(dāng)然,如果整體數(shù)據(jù)量特別大,而且您不在乎成本,可以使用cluster或tidb
您可以使用powerquery快速實(shí)現(xiàn)此操作,只需單擊鼠標(biāo)即可進(jìn)行設(shè)置。首先,我們單擊表的任何區(qū)域,然后在數(shù)據(jù)函數(shù)組中單擊Get和transform來(lái)查找from表。然后,我們跳出創(chuàng)建表的選項(xiàng),檢查包含標(biāo)題,然后單擊“確定”以進(jìn)入“下一步”,單擊“表1”,選擇“復(fù)制”,然后單擊它旁邊的空白部分,然后選擇“粘貼”。這樣,我們將復(fù)制一個(gè)表的副本,
將表1的名稱(chēng)更改為本科,將表2的名稱(chēng)更改為專(zhuān)科。在本科表中選擇本科,然后單擊〖確定〗在專(zhuān)科表中選擇專(zhuān)科,完成后單擊〖確定〗完成選擇,單擊〖關(guān)閉并上傳〗將數(shù)據(jù)加載到excel中
power Query將在excel中新建兩張工作表,并且可以將表的名稱(chēng)更改為相應(yīng)的帳戶。設(shè)置完成后,只需在常規(guī)表中輸入數(shù)據(jù),然后點(diǎn)擊〖保存〗按鈕,再點(diǎn)擊數(shù)據(jù)函數(shù)組中的〖全部刷新〗按鈕,即可自動(dòng)實(shí)現(xiàn)分組