云計(jì)算有什么特性？云計(jì)算是與信息技術(shù)、軟件、互聯(lián)網(wǎng)相關(guān)的一種服務(wù)，這種可以計(jì)算資源共享池叫做什么“云”，云計(jì)算把許多可以計(jì)算資源數(shù)學(xué)集合出聲，實(shí)際軟件實(shí)現(xiàn)方法自動(dòng)化管理，只要比較少的人聯(lián)合，就能讓資源

云計(jì)算有什么特性？

云計(jì)算是與信息技術(shù)、軟件、互聯(lián)網(wǎng)相關(guān)的一種服務(wù)，這種可以計(jì)算資源共享池叫做什么“云”，云計(jì)算把許多可以計(jì)算資源數(shù)學(xué)集合出聲，實(shí)際軟件實(shí)現(xiàn)方法自動(dòng)化管理，只要比較少的人聯(lián)合，就能讓資源被飛快可以提供。也就是說(shuō)，計(jì)算能力以及一種商品，可以不在互聯(lián)網(wǎng)上買賣流通，得象水、電、煤氣一般，也可以方便啊地取用，且價(jià)格較為價(jià)格相對(duì)低廉。

云計(jì)算跟傳統(tǒng)的應(yīng)用網(wǎng)絡(luò)比起有虛擬化、按需購(gòu)買、高可用、性價(jià)比高等特性，很多小型公司公司漸漸地將自己的業(yè)務(wù)服務(wù)作戰(zhàn)部署到云上，小型的公司是可以專有云的或混合云將業(yè)務(wù)上云。

云計(jì)算是確立在先進(jìn)科學(xué)互聯(lián)網(wǎng)技術(shù)基礎(chǔ)之上的，其實(shí)現(xiàn)形式眾多，要注意實(shí)際100元以內(nèi)形式結(jié)束：

1）基礎(chǔ)設(shè)施即服務(wù)(IAAS)，要注意牽涉到云計(jì)算底層服務(wù)，將機(jī)房服務(wù)、網(wǎng)絡(luò)服務(wù)、服務(wù)器硬件服務(wù)等打包虛擬化，將虛機(jī)、物理機(jī)、SDN等服務(wù)提供給客戶，

可以按月、按計(jì)算資源(CPU、內(nèi)存等)等可以購(gòu)買，基于按需購(gòu)買，為中小規(guī)模公司節(jié)約IT服務(wù)成本?；A(chǔ)設(shè)施前期投入比較好大，目前再IAAS服務(wù)什么的公司就幾個(gè)大公司，阿里巴巴的阿里云，騰訊的騰訊云，京東的京東云。

2)平臺(tái)即服務(wù)(PAAS)，通常牽涉到到中間件服務(wù)，在IAAS你服務(wù)的上層，將數(shù)據(jù)庫(kù)服務(wù)，緩存redis服務(wù)，消息隊(duì)列服務(wù)，API網(wǎng)關(guān)服務(wù)，CDN服務(wù)等打包服務(wù)資源，客戶也可以快的的接入這些服務(wù)，按流量、存儲(chǔ)空間等購(gòu)買，基于按需付費(fèi)。

3）軟件即服務(wù)(SAAS)，最上一層服務(wù)，在PAAS.服務(wù)的上層，通常將業(yè)務(wù)流程實(shí)現(xiàn)云化，諸如erp產(chǎn)品，在線筆記服務(wù)，用戶只是需要去注冊(cè)一個(gè)賬號(hào)、登陸一個(gè)頁(yè)面就使用服務(wù)，這類公司比較多，未來(lái)這類能提高SAAS服務(wù)公司會(huì)百花齊放百家爭(zhēng)鳴的。

如何做好大數(shù)據(jù)關(guān)聯(lián)分析？

大數(shù)據(jù)的技術(shù)大數(shù)據(jù)技術(shù)和：

1）數(shù)據(jù)采集：ETL工具專門負(fù)責(zé)將其分布的、異構(gòu)網(wǎng)絡(luò)數(shù)據(jù)源中的數(shù)據(jù)如關(guān)系數(shù)據(jù)、垂直數(shù)據(jù)文件等收集到正式中間層后參與清洗、轉(zhuǎn)換、集成，到最后運(yùn)行程序到數(shù)據(jù)倉(cāng)庫(kù)或數(shù)據(jù)集市中，擁有聯(lián)機(jī)分析處理、數(shù)據(jù)挖掘的基礎(chǔ)。

2）數(shù)據(jù)存取：關(guān)系數(shù)據(jù)庫(kù)、NOSQL、SQL等。

3）基礎(chǔ)架構(gòu)：云存儲(chǔ)、分布式文件存儲(chǔ)等。

4）數(shù)據(jù)處理：自然語(yǔ)言處理(NLP，Natural Language Processing)是研究什么人與計(jì)算機(jī)交互的語(yǔ)言問(wèn)題的一門學(xué)科。全面處理自然語(yǔ)言的關(guān)鍵是要讓計(jì)算機(jī)”再理解”自然語(yǔ)言，因?yàn)樽匀徽Z(yǔ)言處理又就是自然語(yǔ)言理解也稱為計(jì)算語(yǔ)言學(xué)。其次它是語(yǔ)言信息處理的一個(gè)分支，另一方面它是人工智能的核心課題之一。

5）統(tǒng)計(jì)分析：假設(shè)檢驗(yàn)、顯著性檢驗(yàn)、差異總結(jié)、咨詢分析、T檢驗(yàn)、方差分析、卡方講、偏去相關(guān)分析、距離結(jié)論、回歸分析、簡(jiǎn)單方差分析、多元回歸分析、逐漸回歸、回歸預(yù)測(cè)與殘差講、嶺進(jìn)入虛空、邏輯回歸結(jié)論、曲線估計(jì)、因子分析、聚類分析、主成分分析、因子分析、迅速聚類法與聚類法、如何判斷講、對(duì)應(yīng)分析、多元隨機(jī)講（最優(yōu)尺度總結(jié)）、bootstrap技術(shù)等等。

6）數(shù)據(jù)挖掘：類型（Classification）、估計(jì)（Estimation）、預(yù)測(cè)（Prediction）、相關(guān)性分組或關(guān)聯(lián)規(guī)則（Affinitygrouping求求求associationpolicies）、聚類（Clustering）、描述和可視化、DescriptionbutVisualization）、奇怪?jǐn)?shù)據(jù)類型深處挖掘(Text,Web,圖形圖像，視頻，音頻等)模型預(yù)測(cè)：預(yù)測(cè)模型、機(jī)器學(xué)習(xí)、建模仿真。7）結(jié)果呈：云計(jì)算、標(biāo)簽云、關(guān)系圖等。

一、搭建大數(shù)據(jù)分析平臺(tái)對(duì)付海量的各種來(lái)源的數(shù)據(jù)，如何能對(duì)這些零散的數(shù)據(jù)進(jìn)行有效的分析，換取流通價(jià)值信息一直是大數(shù)據(jù)領(lǐng)域研究的熱點(diǎn)問(wèn)題。、、

在搭建中大數(shù)據(jù)分析平臺(tái)之前，要先內(nèi)容明確業(yè)務(wù)場(chǎng)景場(chǎng)景在內(nèi)用戶的需求，通過(guò)大數(shù)據(jù)分析平臺(tái)，想能得到哪些有價(jià)值的信息，不需要接入的數(shù)據(jù)有哪些，必須明確基于場(chǎng)景業(yè)務(wù)需求的大數(shù)據(jù)平臺(tái)要擁有的基本上的功能，來(lái)改變平臺(tái)搭建過(guò)程中不使用的大數(shù)據(jù)處理工具和框架。（1）操作系統(tǒng)的選擇

操作系統(tǒng)就像在用開(kāi)源版的RedHat、Centos或則Debian才是底層的構(gòu)建平臺(tái)，要據(jù)大數(shù)據(jù)平臺(tái)所要壘建的數(shù)據(jù)分析工具可以不支持的系統(tǒng)，明智的選擇操作系統(tǒng)的版本。

（2）重新搭建Hadoop集群Hadoop以及一個(gè)開(kāi)發(fā)和運(yùn)行一次性處理大規(guī)模行動(dòng)數(shù)據(jù)的軟件平臺(tái)，實(shí)現(xiàn)了在大量的便宜貨計(jì)算機(jī)組成的集群中對(duì)海量數(shù)據(jù)并且分布式計(jì)算。Hadoop框架中最核心的設(shè)計(jì)是HDFS和MapReduce，HDFS是一個(gè)高度容錯(cuò)性的系統(tǒng)，適合布署在廉價(jià)的機(jī)器上，還能夠可以提供高吞吐量的數(shù)據(jù)訪問(wèn)，范圍問(wèn)題于那些有著大到離譜數(shù)據(jù)集的應(yīng)用程序；MapReduce是一套可以不從海量的數(shù)據(jù)中再提取數(shù)據(jù)到最后回結(jié)果集的編程模型。在生產(chǎn)實(shí)踐應(yīng)用中，Hadoop的很適合運(yùn)用于大數(shù)據(jù)存儲(chǔ)和大數(shù)據(jù)的分析應(yīng)用，更適合.服務(wù)于幾千臺(tái)到幾萬(wàn)臺(tái)大的服務(wù)器的集群運(yùn)行，支持PB級(jí)別的存儲(chǔ)容量。

（3）中,選擇數(shù)據(jù)接入和預(yù)處理工具

面對(duì)各種來(lái)源的數(shù)據(jù)，數(shù)據(jù)接入應(yīng)該是將這些零散的數(shù)據(jù)整合在一起，綜合下來(lái)通過(guò)分析。數(shù)據(jù)接入要注意包括文件日志的接入、數(shù)據(jù)庫(kù)日志的接入、關(guān)系型數(shù)據(jù)庫(kù)的接入和應(yīng)用程序等的接入，數(shù)據(jù)接入廣泛的工具有Flume，Logstash，NDC（網(wǎng)易數(shù)據(jù)運(yùn)河系統(tǒng)），sqoop等。這對(duì)實(shí)時(shí)性要求也很高的業(yè)務(wù)場(chǎng)景，諸如對(duì)必然于社交網(wǎng)站、新聞等的數(shù)據(jù)信息流需要通過(guò)快速的處理反饋，這樣的話數(shù)據(jù)的接入是可以使用開(kāi)源的Strom，Sparkstreaming等。

數(shù)據(jù)預(yù)處理是在海量的數(shù)據(jù)中提純出可用特征，確立寬表，修改數(shù)據(jù)倉(cāng)庫(kù)，會(huì)使用到HiveSQL，SparkSQL和Impala等工具。與此同時(shí)業(yè)務(wù)量的增多，必須參與訓(xùn)練和擦洗的數(shù)據(jù)也會(huì)變地越發(fā)復(fù)雜，這個(gè)可以在用azkaban或者oozie充當(dāng)工作流調(diào)度引擎，用來(lái)解決的辦法有多個(gè)hadoop或則spark等計(jì)算任務(wù)之間的依賴性太強(qiáng)關(guān)系問(wèn)題。

（4）數(shù)據(jù)存儲(chǔ)

除開(kāi)Hadoop中已廣泛應(yīng)用于數(shù)據(jù)存儲(chǔ)的HDFS，具體方法的另外分布式、面向列的閉源數(shù)據(jù)庫(kù)Hbase，HBase是一種key/value系統(tǒng)，防御部署在HDFS上，與Hadoop一樣的，HBase的目標(biāo)主要是感情依賴橫向擴(kuò)展，實(shí)際不斷地的增強(qiáng)廉價(jià)的商用化服務(wù)器，減少可以計(jì)算和存儲(chǔ)能力。同時(shí)hadoop的資源管理器Yarn，可以不為上層應(yīng)用可以提供統(tǒng)一的資源管理和調(diào)度，為集群在利用率、資源統(tǒng)一規(guī)定等方面帶來(lái)巨型的好處。

（5）你選數(shù)據(jù)挖掘工具

Hive可以不將結(jié)構(gòu)化的數(shù)據(jù)映射為一張數(shù)據(jù)庫(kù)表，并需要提供HQL的查詢功能，它是成立在Hadoop之上的數(shù)據(jù)倉(cāng)庫(kù)基礎(chǔ)架構(gòu)，是是為降低MapReducec語(yǔ)言程序工作的批處理系統(tǒng)，它的出現(xiàn)也可以讓那些精通滿SQL技能、只不過(guò)不比較熟悉MapReduce、編程能力較弱和不擅長(zhǎng)Java的用戶能夠在HDFS大規(guī)模行動(dòng)數(shù)據(jù)集上很好的利用SQL語(yǔ)言查詢、匯總、分析數(shù)據(jù)。Impala是對(duì)Hive的一個(gè)補(bǔ)充，可以不利用又高效的SQL查詢，但是Impala將整個(gè)查詢過(guò)程分成了一個(gè)先執(zhí)行計(jì)劃樹(shù)，而并非噼里啪啦的MapReduce任務(wù)，相比Hive有更好的并發(fā)性和以免了不必要的中間sort和shuffle。

可以對(duì)數(shù)據(jù)進(jìn)行建模分析，會(huì)用到機(jī)器學(xué)習(xí)相關(guān)的知識(shí)，具體方法的機(jī)器學(xué)習(xí)算法，比如貝葉斯、邏輯回歸、決策樹(shù)、神經(jīng)網(wǎng)絡(luò)、協(xié)同過(guò)濾等。

（6）數(shù)據(jù)的可視化和輸出API

對(duì)此去處理?yè)Q取的數(shù)據(jù)是可以對(duì)接主流的BI系統(tǒng)，例如國(guó)外的Tableau、Qlikview、PowrerBI等，國(guó)內(nèi)的SmallBI和新興的網(wǎng)易有數(shù)（可免費(fèi)試用）等，將結(jié)果通過(guò)可視化，應(yīng)用于決策分析；或則回流到線上，意見(jiàn)線上業(yè)務(wù)的發(fā)展。

二、大數(shù)據(jù)分析1.可視化分析

大數(shù)據(jù)分析的使用者有大數(shù)據(jù)分析專家，同樣的還有普通用戶，但他們二者是對(duì)大數(shù)據(jù)分析最基本的要求就是可視化分析，而且可視化分析都能夠形象直觀的顯現(xiàn)出大數(shù)據(jù)特點(diǎn)，同樣的能太太容易被讀者所進(jìn)行，就好似看圖說(shuō)話一樣的簡(jiǎn)單明了。

2.數(shù)據(jù)挖掘算法

大數(shù)據(jù)分析的理論核心就是數(shù)據(jù)挖掘算法，各種數(shù)據(jù)挖掘的算法基于條件有所不同的數(shù)據(jù)類型和格式才能十分真正的科學(xué)的呈出數(shù)據(jù)本身必須具備的特點(diǎn)，也顯然畢竟這些被全世界統(tǒng)計(jì)學(xué)家所最有實(shí)力的各種統(tǒng)計(jì)方法（也可以稱之為真理）才能探索數(shù)據(jù)內(nèi)部，開(kāi)掘出最牛叉的價(jià)值。另外一個(gè)方面又是而且有這些數(shù)據(jù)挖掘的算法才能更飛速的處理大數(shù)據(jù)，如果一個(gè)算法得花上好幾年才能得出結(jié)論，那大數(shù)據(jù)的價(jià)值也就只能沉默了。

3.預(yù)測(cè)性分析

大數(shù)據(jù)分析結(jié)果要的應(yīng)用領(lǐng)域之一那就是流程挖掘，從大數(shù)據(jù)中深處挖掘出特點(diǎn)，是從科學(xué)的建立模型，之后便可以不實(shí)際模型得a新的數(shù)據(jù)，使分析預(yù)測(cè)未來(lái)的數(shù)據(jù)。

4.語(yǔ)義引擎

非結(jié)構(gòu)化數(shù)據(jù)的多元化給數(shù)據(jù)分析給了新的挑戰(zhàn)，我們是需要一套工具系統(tǒng)的去分析什么，提煉數(shù)據(jù)。語(yǔ)義引擎要電腦設(shè)計(jì)到有充足的人工智能以根本無(wú)法從數(shù)據(jù)中主動(dòng)去地提取信息。

5.數(shù)據(jù)質(zhì)量和數(shù)據(jù)管理

大數(shù)據(jù)分析離不開(kāi)數(shù)據(jù)質(zhì)量和數(shù)據(jù)管理，高質(zhì)量的數(shù)據(jù)和有效的數(shù)據(jù)管理，無(wú)論是在學(xué)術(shù)研究那就在商業(yè)應(yīng)用領(lǐng)域，都也能只要講結(jié)果的都是假的和有價(jià)值。大數(shù)據(jù)分析的基礎(chǔ)應(yīng)該是以上五個(gè)方面，當(dāng)然了更深一步大數(shù)據(jù)分析的話，還有很多很多極其有特點(diǎn)的、更深入的、極其比較好的專業(yè)的大數(shù)據(jù)分析方法。

三、數(shù)據(jù)處理1.大數(shù)據(jù)處理之一

采藥大數(shù)據(jù)的采集是指憑借多個(gè)數(shù)據(jù)庫(kù)來(lái)能接收打動(dòng)心靈客戶端（Web、App或是傳感器形式等）的數(shù)據(jù)，但是用戶可以是從這些數(shù)據(jù)庫(kù)來(lái)并且很簡(jiǎn)單網(wǎng)上查詢和處理工作。比如說(shuō)，電商會(huì)建議使用悠久的傳統(tǒng)的關(guān)系型數(shù)據(jù)庫(kù)MySQL和Oracle等來(lái)存儲(chǔ)每一筆事務(wù)數(shù)據(jù)，除此之外，Redis和MongoDB這樣的NoSQL數(shù)據(jù)庫(kù)也常用于數(shù)據(jù)的采集。在大數(shù)據(jù)的采集過(guò)程中，其主要特點(diǎn)和挑戰(zhàn)是并發(fā)數(shù)高，畢竟另外有可能會(huì)有成千上萬(wàn)的用戶來(lái)接受訪問(wèn)和操作，比如說(shuō)火車票售票網(wǎng)站和淘寶，它們并發(fā)的訪問(wèn)量在峰值時(shí)都沒(méi)有達(dá)到上百萬(wàn)，因此必須在哪采端部署大量數(shù)據(jù)庫(kù)才能能支撐。因此該如何在這些數(shù)據(jù)庫(kù)之間進(jìn)行負(fù)載均衡和分片真的是是需要深度思考和設(shè)計(jì)。

2.大數(shù)據(jù)處理之二

導(dǎo)入/預(yù)處理只不過(guò)再采集端本身會(huì)有很多數(shù)據(jù)庫(kù)，只不過(guò)如果要對(duì)這些海量數(shù)據(jù)并且有效的分析，應(yīng)該估計(jì)將這些不知從何而來(lái)前端的數(shù)據(jù)導(dǎo)入到一個(gè)幾乎全部的大型分布式數(shù)據(jù)庫(kù)，或者分布式存儲(chǔ)集群，并且可以不在導(dǎo)入基礎(chǔ)上做一些很簡(jiǎn)單刷洗和預(yù)處理工作。也有一些用戶會(huì)在導(dǎo)入時(shí)使用來(lái)自Twitter的Storm來(lái)對(duì)數(shù)據(jù)進(jìn)行流式算出，來(lái)滿足部分業(yè)務(wù)的實(shí)時(shí)計(jì)算需求。導(dǎo)入與預(yù)處理過(guò)程的特點(diǎn)和挑戰(zhàn)主要注意是導(dǎo)出的數(shù)據(jù)量大，每秒鐘的導(dǎo)入量偶爾會(huì)會(huì)提升百兆，甚至百兆級(jí)別。

3.大數(shù)據(jù)處理之三

統(tǒng)計(jì)數(shù)據(jù)/分析統(tǒng)計(jì)與分析比較多依靠分布式數(shù)據(jù)庫(kù)，或則分布式計(jì)算集群來(lái)對(duì)存儲(chǔ)于其內(nèi)的海量數(shù)據(jù)并且特殊的分析和分類匯總等，以不滿足大多數(shù)常見(jiàn)的分析需求，在這方面，一些實(shí)時(shí)性需求會(huì)都用到EMC的GreenPlum、Oracle的Exadata，這些基于條件MySQL的列式存儲(chǔ)Infobright等，而一些批處理，的或基于組件半結(jié)構(gòu)化數(shù)據(jù)的需求也可以可以使用Hadoop。統(tǒng)計(jì)與講這部分的主要特點(diǎn)和挑戰(zhàn)是分析涉及的數(shù)據(jù)量大，其對(duì)系統(tǒng)資源，特別是I/O會(huì)有極大的占用。

4.大數(shù)據(jù)處理之四

挖掘與前面統(tǒng)計(jì)和分析過(guò)程有所不同的是，數(shù)據(jù)挖掘就像沒(méi)有什么先行設(shè)定好的主題，通常是在超過(guò)數(shù)據(jù)上面進(jìn)行基于條件各種算法的計(jì)算，使可起分析預(yù)測(cè)（Predict）的效果，從而實(shí)現(xiàn)程序一些高級(jí)別數(shù)據(jù)分析的需求。比較好啊是算法有用于聚類的Kmeans、主要是用于統(tǒng)計(jì)出來(lái)去學(xué)習(xí)的SVM和作用于分類的NaiveBayes，主要注意可以使用的工具有Hadoop的Mahout等。該過(guò)程的特點(diǎn)和挑戰(zhàn)主要是應(yīng)用于挖掘的算法很急切，并且算出不屬于的數(shù)據(jù)量和計(jì)算量都太大，具體方法數(shù)據(jù)挖掘算法都以單線程為主。