swift6.0新特性？一、無(wú)宕機(jī)升級(jí)：使之還能夠從5的第一個(gè)版本滾動(dòng)起來(lái)升級(jí)到6的那一個(gè)版本，不是需要集群的完整關(guān)機(jī)重啟。無(wú)宕機(jī)下載升級(jí)，無(wú)縫拼接滾動(dòng)起來(lái)升級(jí)。二、跨多個(gè)Elasticsearch群

swift6.0新特性？

一、無(wú)宕機(jī)升級(jí)：

使之還能夠從5的第一個(gè)版本滾動(dòng)起來(lái)升級(jí)到6的那一個(gè)版本，不是需要集群的完整關(guān)機(jī)重啟。無(wú)宕機(jī)下載升級(jí)，無(wú)縫拼接滾動(dòng)起來(lái)升級(jí)。

二、跨多個(gè)Elasticsearch群集搜索

和以前一般，Elasticsearch6.0能讀取數(shù)據(jù)在5.x中創(chuàng)建家族的Indices，但不能讀取文件在2.x中修改的Indices

三、遷移助手

KibanaX-Pack插件能提供了一個(gè)簡(jiǎn)單點(diǎn)用戶界面，可解決原先索引舊Indices，和將Kibana、Security和Watcher索引你升級(jí)到6.0。

四、在用序列號(hào)速度更快地重新啟動(dòng)和還原

6.0版本中最大的一個(gè)新特性那是序列ID，它不允許實(shí)現(xiàn)不能操作的分片恢復(fù)。

五、可以使用排序索引慢了網(wǎng)站查詢

按照索引排序，如果能收集到足夠的命中等級(jí)，搜索就可以終止。

六、稀疏區(qū)域設(shè)計(jì)改進(jìn)

elasticsearch存儲(chǔ)結(jié)構(gòu)？

基于條件lucene的存儲(chǔ)結(jié)構(gòu)

Lucene是一個(gè)功能強(qiáng)大的搜索庫(kù)，不過(guò)基于Lucene參與開發(fā)比較好奇怪。ElasticSearch是實(shí)現(xiàn)lucene開發(fā)的搜索引擎，提供給了更簡(jiǎn)單易用的API。

索引只不過(guò)是lucene中的概念，一個(gè)索引由多個(gè)索引段近似，大部分的場(chǎng)景是寫一次，讀過(guò)。當(dāng)滿足某些條件時(shí)，多個(gè)索引段會(huì)胸壁痛成一個(gè)更大的索引段。索引段的減少有助搜索效率的提高(可能會(huì)是lucene內(nèi)部原理判斷的)，不過(guò)不穩(wěn)定的段合并會(huì)影響大性能。

Elasticsearch中的你每次可以刷新都會(huì)新創(chuàng)建戰(zhàn)隊(duì)一個(gè)段，新創(chuàng)建家族的段里面的數(shù)據(jù)在下第二次刷新之前是不會(huì)被搜索到的。ES的段單獨(dú)設(shè)置是在后臺(tái)并且的。

如何設(shè)計(jì)每秒十萬(wàn)查詢的高并發(fā)架構(gòu)？

簡(jiǎn)單的方法回顧幫一下忙，整個(gè)架構(gòu)右側(cè)部分演進(jìn)到的那個(gè)程度，其實(shí)早相當(dāng)?shù)倪€好了，而且百億流量，最大速度十萬(wàn)級(jí)并發(fā)寫入到的場(chǎng)景，可以使用MQ臨時(shí)限流削峰、分布式網(wǎng)絡(luò)KV集群給抗住了。隨后建議使用了算出與儲(chǔ)存分離的架構(gòu)，那里Slave換算節(jié)點(diǎn)會(huì)負(fù)責(zé)提純數(shù)據(jù)到內(nèi)存中，設(shè)計(jì)和實(shí)現(xiàn)自研的SQL內(nèi)存算出引擎能完成算出。同時(shí)采用了數(shù)據(jù)動(dòng)靜分離的架構(gòu)，動(dòng)態(tài)和靜態(tài)數(shù)據(jù)全部緩存，閃圖數(shù)據(jù)自動(dòng)分離提取，保證了盡可能會(huì)把網(wǎng)絡(luò)跪請(qǐng)開銷減少到最底。

別外，自研的分布式系統(tǒng)架構(gòu)，除了數(shù)據(jù)分片和計(jì)算任務(wù)分布式執(zhí)行、彈性資源調(diào)度、分布式高容錯(cuò)機(jī)制、主備一鍵切換機(jī)制，都能絕對(duì)的保證整套系統(tǒng)的正二十邊形按需擴(kuò)容，高性能、高可用的的運(yùn)行。

下一步怎么辦，咱們得來(lái)做研究做研究架構(gòu)里左側(cè)的部分了。

二、日臻脹大的離線狀態(tài)計(jì)算結(jié)果

反正大家會(huì)特別注意到，在左側(cè)也有一個(gè)MySQL，那個(gè)MySQL就是用處盛載實(shí)時(shí)計(jì)算結(jié)果和不聯(lián)網(wǎng)計(jì)算出結(jié)果放進(jìn)里面分類匯總的。

終端的商家用戶就可以不隨意地的查詢MySQL里的數(shù)據(jù)分析結(jié)果，勉力支撐自己的決策，他這個(gè)可以看當(dāng)天的數(shù)據(jù)分析報(bào)告，也可以不看歷史上任何一段時(shí)期內(nèi)的數(shù)據(jù)分析報(bào)告。

可是那個(gè)MySQL在早期可能不過(guò)那些，因?yàn)楫?dāng)然能保存在這個(gè)MySQL里的數(shù)據(jù)量相對(duì)要小那些，不過(guò)是計(jì)算后的一些結(jié)果只不過(guò)。不過(guò)到了中后期，這個(gè)MySQL但也岌岌可危了。

給大家舉一個(gè)例子，離線狀態(tài)計(jì)算鏈路里，如果早上增量數(shù)據(jù)是1000萬(wàn)，這樣的話每隔一天可以計(jì)算完以后的結(jié)果差不多只有一50萬(wàn)，每隔一天50萬(wàn)新增數(shù)據(jù)放入后MySQL，其實(shí)那就是可以接受的。

只不過(guò)如果不是每天晚上增量數(shù)據(jù)是10億，這樣的話每天晚上算出完以后的結(jié)果大概會(huì)是千萬(wàn)級(jí)，你可以算他是可以計(jì)算結(jié)果有5000萬(wàn)條數(shù)據(jù)吧，早上5000萬(wàn)增量數(shù)據(jù)寫入到左側(cè)的MySQL中，你總覺(jué)得是啥感覺(jué)？

是可以給大家告訴我系統(tǒng)當(dāng)時(shí)的情況，基本上就是，單臺(tái)MySQL服務(wù)器的磁盤存儲(chǔ)空間很快地還得將近滿掉，不過(guò)單表數(shù)據(jù)量都是幾億、甚至于十億的級(jí)別。

這種量級(jí)的單表數(shù)據(jù)量，你都覺(jué)得用戶可以查詢數(shù)據(jù)分析報(bào)告的時(shí)候，親身體驗(yàn)?zāi)芎妹矗炕径籍?dāng)時(shí)三次去查詢也是幾秒鐘的級(jí)別。很慢。

殊不知，出現(xiàn)過(guò)用戶三次可以查詢要十秒的級(jí)別，甚至幾十秒，上分鐘的級(jí)別。很崩散，用戶體驗(yàn)非常差，仍舊達(dá)不出來(lái)需要付費(fèi)產(chǎn)品的級(jí)別。

所以可以解決了右側(cè)的存儲(chǔ)和換算的問(wèn)題之后，左側(cè)的可以查詢的問(wèn)題也迫在眉睫。新一輪的重構(gòu)，迫在眉睫！

三、分庫(kù)分表讀寫分離

是需要應(yīng)該是老把戲，分庫(kù)分表讀寫分離，這個(gè)基本都是實(shí)現(xiàn)MySQL的架構(gòu)中，必經(jīng)之路了，況且率先實(shí)施出聲難度并非特別的高，但速度較快，效果比較特別顯著。

整個(gè)的思路和之前第一篇文章（《大型系統(tǒng)架構(gòu)演進(jìn)之如何支撐百億級(jí)數(shù)據(jù)的存儲(chǔ)與計(jì)算》）講的基本都一致。

說(shuō)白了，是分庫(kù)后，每臺(tái)主庫(kù)是可以盛載部分寫入到壓力，單庫(kù)的寫并發(fā)會(huì)會(huì)降低；如果你是是單個(gè)主庫(kù)的磁盤空間可以不降底負(fù)載的數(shù)據(jù)量，不至于迅速就滿了；

而分表之后，單個(gè)數(shù)據(jù)表的數(shù)據(jù)量這個(gè)可以會(huì)降低到百萬(wàn)級(jí)別，這個(gè)是勉力支撐海量數(shù)據(jù)以及能保證更高性能的最佳實(shí)踐，基本兩三百萬(wàn)的單表數(shù)據(jù)量級(jí)那就合理的。

然后讀寫分離之后，就是可以將單庫(kù)的讀寫負(fù)載壓力只是分離到主庫(kù)和從庫(kù)多臺(tái)機(jī)器上去，主庫(kù)就盛載寫負(fù)載電流，從庫(kù)就盛載讀負(fù)載端，這樣盡量避免單庫(kù)所在的位置機(jī)器的讀寫負(fù)載過(guò)熱，導(dǎo)致CPU電源輸出、IO負(fù)載電流、網(wǎng)絡(luò)負(fù)載過(guò)低，最后搞得數(shù)據(jù)庫(kù)機(jī)器宕機(jī)。

必須這么大重構(gòu)再看看數(shù)據(jù)庫(kù)層面的架構(gòu)之后，效果就好的多了。是因?yàn)閱伪頂?shù)據(jù)量會(huì)降低了，那么用戶可以查詢的性能換取很大的提升，都差不多也可以達(dá)到1秒以內(nèi)的效果。

四、每秒10萬(wàn)去查詢的高并發(fā)挑戰(zhàn)

上面那套初步的分庫(kù)分表讀寫分離的架構(gòu)確實(shí)能支撐了一段時(shí)間，但慢慢的的那套架構(gòu)又被人發(fā)現(xiàn)出來(lái)了弊端進(jìn)去了，而且商家用戶是開了數(shù)據(jù)分析頁(yè)面之后，頁(yè)面上有js腳本會(huì)每隔幾秒鐘就發(fā)送第二次請(qǐng)求到后端來(lái)運(yùn)行程序哪個(gè)網(wǎng)站的數(shù)據(jù)分析結(jié)果。

此時(shí)就有一個(gè)問(wèn)題了，逐漸地的查詢MySQL的壓力越來(lái)越大，基本都可預(yù)見(jiàn)的范圍是朝那最大速度10級(jí)別去走。

但是我們分析什么了幫一下忙，反正99%的查詢，全是頁(yè)面JS腳本不自動(dòng)口中發(fā)出重新登陸當(dāng)日數(shù)據(jù)的查詢。只能1%的查詢是對(duì)于昨天以前的歷史數(shù)據(jù)，用戶不自動(dòng)更改去查詢范圍當(dāng)時(shí)查詢的。

但是現(xiàn)在的這個(gè)架構(gòu)之下，我們是把當(dāng)日實(shí)時(shí)數(shù)據(jù)計(jì)算出結(jié)果（代表上帝了熱數(shù)據(jù)）和歷史離線換算結(jié)果（屬於了冷數(shù)據(jù)）都放在旁邊相互的，因?yàn)榇蠹铱梢圆幌胂裰袔鸵幌旅?，熱?shù)據(jù)和冷數(shù)據(jù)放進(jìn)一同，然后把對(duì)熱數(shù)據(jù)的高并發(fā)可以查詢占到了99%，那這樣的架構(gòu)還合理不嗎？

不過(guò)不合不合理，我們要再一次被重構(gòu)應(yīng)用架構(gòu)。

五、數(shù)據(jù)的冷熱分離架構(gòu)

因?yàn)樯狭姓f(shuō)過(guò)的問(wèn)題，很確實(shí)去做的一個(gè)架構(gòu)重構(gòu)那就是熱和冷數(shù)據(jù)只是分離。也就是說(shuō)，將今日實(shí)時(shí)計(jì)算不出來(lái)的熱數(shù)據(jù)放進(jìn)一個(gè)MySQL集群里，將離線模式計(jì)算出出的冷數(shù)據(jù)放在另外一個(gè)MySQL集群里。

接著開發(fā)一個(gè)數(shù)據(jù)查詢平臺(tái)，標(biāo)準(zhǔn)封裝底層的多個(gè)MySQL集群，據(jù)可以查詢條件動(dòng)態(tài)路由到熱數(shù)據(jù)存儲(chǔ)或者是冷數(shù)據(jù)存儲(chǔ)。

按照這個(gè)步驟的重構(gòu)，我們就也可以快速有效的將熱數(shù)據(jù)存儲(chǔ)中單表的數(shù)據(jù)量減低到更少更少，有的單表數(shù)據(jù)量可能會(huì)就幾十萬(wàn)，因?yàn)閷㈦x線換算的大量數(shù)據(jù)結(jié)果從表里剝離出去后了，放在另外一個(gè)集群里去。此時(shí)大家可以想象，效果當(dāng)然了是要好了。

畢竟熱數(shù)據(jù)的單表數(shù)據(jù)量下降了很多，當(dāng)時(shí)的一個(gè)最很明顯的效果，就是用戶99%的查詢是針對(duì)熱數(shù)據(jù)存儲(chǔ)展開的，性能從原來(lái)是的1秒左右降底到了200毫秒以內(nèi)，用戶體驗(yàn)提升到，大家覺(jué)得好些了。

六、自研ElasticsearchHBase純內(nèi)存的查詢引擎

微服務(wù)化到這里，雖然好像聽(tīng)說(shuō)還比較好，只不過(guò)其實(shí)問(wèn)題我還是很多。因?yàn)榈搅诉@個(gè)階段，系統(tǒng)遇見(jiàn)了另外一個(gè)相對(duì)嚴(yán)重點(diǎn)的問(wèn)題：冷數(shù)據(jù)存儲(chǔ)，如果幾乎用MySQL來(lái)盛載是很不靠譜不的。冷數(shù)據(jù)的數(shù)據(jù)量是日增長(zhǎng)斷的提高，并且增速一下子，每天都再新增幾千萬(wàn)。

并且你的MySQL服務(wù)器可以說(shuō)獨(dú)自面對(duì)不斷地的需要擴(kuò)容的問(wèn)題，并且如果不是為了勉強(qiáng)支撐這1%的冷數(shù)據(jù)查詢各位，斷的的內(nèi)存量增加高配置的MySQL服務(wù)器，大家感覺(jué)靠譜么？

肯定是不合適的！

要明白了，大量分庫(kù)分表后，MySQL大量的庫(kù)和表維護(hù)起來(lái)是蠻麻煩您的，直接修改個(gè)字段？加個(gè)索引？這全是那一場(chǎng)麻煩的話事兒。

再者，只不過(guò)對(duì)冷數(shù)據(jù)的查詢，一般大都因?yàn)榇罅繑?shù)據(jù)的查詢，諸如用戶會(huì)你選擇過(guò)去幾個(gè)月，甚至一年的數(shù)據(jù)參與分析查詢，此時(shí)假如純用MySQL那就挺災(zāi)難性的。

因?yàn)楫?dāng)時(shí)肯定突然發(fā)現(xiàn)，針對(duì)海量數(shù)據(jù)場(chǎng)景下，下子去查詢講幾個(gè)月或則幾年的數(shù)據(jù)，性能是極差的，應(yīng)該很難搞成幾秒鐘甚至還幾十秒才出結(jié)果。

因此對(duì)于這個(gè)冷數(shù)據(jù)的存儲(chǔ)和去查詢的問(wèn)題，我們終于選擇了自研一套實(shí)現(xiàn)NoSQL來(lái)存儲(chǔ)，然后把基于NoSQL內(nèi)存的SQL計(jì)算引擎。

具體來(lái)說(shuō)，我們會(huì)將冷數(shù)據(jù)完全常規(guī)ESHBase來(lái)通過(guò)存儲(chǔ)，ES中比較多貯放要對(duì)冷數(shù)據(jù)通過(guò)篩選后的各種條件索引，例如日期和各種維度的數(shù)據(jù)，然后HBase中會(huì)存放全量的數(shù)據(jù)字段。

畢竟ES和HBase的原生SQL支持什么都可能不太好，所以我們?nèi)缓笞匝辛肆硗庖惶譙QL引擎，一類意見(jiàn)這種特定的事件的場(chǎng)景，那是基本上是沒(méi)有多表關(guān)聯(lián)，那就是對(duì)單個(gè)數(shù)據(jù)集參與查詢和分析，后再意見(jiàn)NoSQL存儲(chǔ)內(nèi)存換算。

這里有一個(gè)先決條件，那就是如果不是要你做到對(duì)冷數(shù)據(jù)所有的是單表類的數(shù)據(jù)集查詢，需要要在冷數(shù)據(jù)剛剛進(jìn)入NoSQL存儲(chǔ)的時(shí)候，所有基于組件ES和HBase的特性做到多表入庫(kù)關(guān)聯(lián)，進(jìn)數(shù)據(jù)存儲(chǔ)就全部可以做成大寬表的狀態(tài)，將數(shù)據(jù)關(guān)聯(lián)徹底上推到入庫(kù)后時(shí)能完成，而不是在查詢時(shí)進(jìn)行。

對(duì)冷數(shù)據(jù)的查詢，我們自研的SQL引擎是需要會(huì)參照各種where條件先走ES的分布式集高性能索引網(wǎng)站查詢，ES可以對(duì)于海量數(shù)據(jù)低功耗的數(shù)據(jù)庫(kù)檢索出去是需要的那部分?jǐn)?shù)據(jù)，這個(gè)過(guò)程用ES做是最比較合適的。

隨后是將檢索到進(jìn)去的數(shù)據(jù)隨機(jī)的完整的各個(gè)數(shù)據(jù)字段，從HBase里提取出，拼接成完成的數(shù)據(jù)。

然后那就是將這份數(shù)據(jù)集裝在內(nèi)存里，接受古怪的函數(shù)計(jì)算、分組情況聚合以及排序等不能操作。

本案所涉操作，全部實(shí)現(xiàn)自研的針對(duì)這個(gè)場(chǎng)景的查詢引擎能完成，底層基于Elasticsearch、HBase、純內(nèi)存來(lái)基于。

七、實(shí)時(shí)地?cái)?shù)據(jù)存儲(chǔ)化入緩存集群

行了，到此結(jié)束吧，冷數(shù)據(jù)的海量數(shù)據(jù)存儲(chǔ)、更高性能網(wǎng)站查詢的問(wèn)題，就可以解決了。隨即回過(guò)身來(lái)看一下當(dāng)日實(shí)時(shí)數(shù)據(jù)的查詢，反正實(shí)時(shí)數(shù)據(jù)的日日計(jì)算出結(jié)果不可能少，而且讀取并發(fā)應(yīng)該不會(huì)不光特別的高，一秒內(nèi)上萬(wàn)也就不多了。

并且這個(gè)背景下，那就是用MySQL分庫(kù)分表來(lái)能支撐數(shù)據(jù)的寫入、存儲(chǔ)和查詢，都絕對(duì)沒(méi)問(wèn)題。

不過(guò)有一個(gè)小問(wèn)題，是說(shuō)每個(gè)商家的實(shí)時(shí)數(shù)據(jù)其實(shí)也不是正常的變更的，在一段時(shí)間內(nèi)，可能想也沒(méi)變化，因此不不需要高并發(fā)各位，每秒10萬(wàn)級(jí)別的全部落地到數(shù)據(jù)庫(kù)層面吧？要全部落地之前到數(shù)據(jù)庫(kù)層面，那可能要給每個(gè)主庫(kù)武器掛載很多從庫(kù)來(lái)勉強(qiáng)支撐高并發(fā)讀。

而這里我們分解重組了一個(gè)緩存集群，實(shí)時(shí)數(shù)據(jù)每次來(lái)更新完后寫入文件的時(shí)候，大都寫數(shù)據(jù)庫(kù)集群同時(shí)還寫緩存集群的，是雙寫的。

然后把網(wǎng)上查詢的時(shí)候是優(yōu)先權(quán)從緩存集群來(lái)走，此時(shí)基本都以上的高并發(fā)可以查詢都走緩存集群了，后再只有一10%的查詢會(huì)從空中落下到數(shù)據(jù)庫(kù)集群。

八、階段性總結(jié)

再說(shuō)，結(jié)束了，這個(gè)架構(gòu)基本左邊也都重構(gòu)之后：

熱數(shù)據(jù)實(shí)現(xiàn)緩存集群數(shù)據(jù)庫(kù)集群來(lái)容納高并發(fā)的每秒十萬(wàn)級(jí)別的查詢冷數(shù)據(jù)設(shè)計(jì)和實(shí)現(xiàn)ESHBase內(nèi)存可以計(jì)算的自研網(wǎng)上查詢引擎來(lái)抵擋海量數(shù)據(jù)存儲(chǔ)包括集高性能網(wǎng)站查詢。經(jīng)實(shí)踐，整個(gè)效果非常的好。用戶對(duì)熱數(shù)據(jù)的查詢基本上多是幾十毫秒的響應(yīng)速度，對(duì)冷數(shù)據(jù)的查詢都差不多都是200毫秒以內(nèi)的響應(yīng)速度。

九、下一階段的展望

反正微服務(wù)化到這里早很容易了，只不過(guò)可那這么大幾張圖，里面涉及到無(wú)數(shù)的細(xì)節(jié)和技術(shù)方案的落地，需要一個(gè)團(tuán)隊(duì)耗費(fèi)至少1年的時(shí)間才能你做到這個(gè)程度。

只不過(guò)接下來(lái)的，我們要遇上的，那就是高可用的問(wèn)題，是因?yàn)楦顿M(fèi)級(jí)的產(chǎn)品，我們可以要絕對(duì)的保證暴高的可用性，99.99%的可用性，甚至還是99.999%的可用性。

但是越是古怪的系統(tǒng)，越不容易又出現(xiàn)問(wèn)題，填寫的高可用架構(gòu)就越是急切無(wú)比