大數(shù)據(jù)需要學(xué)什么技術(shù) 人工智能這么火,數(shù)據(jù)挖掘和機(jī)器學(xué)習(xí)有什么區(qū)別?
人工智能這么火,數(shù)據(jù)挖掘和機(jī)器學(xué)習(xí)有什么區(qū)別?工作之后,我知道的第一個(gè)概念是數(shù)據(jù)挖掘,而不是機(jī)器學(xué)習(xí)。因此,我認(rèn)為數(shù)據(jù)挖掘的概念比較廣泛,屬于工程應(yīng)用范疇。五年前,我們公司談?wù)摂?shù)據(jù)挖掘并舉辦了這樣的比
人工智能這么火,數(shù)據(jù)挖掘和機(jī)器學(xué)習(xí)有什么區(qū)別?
工作之后,我知道的第一個(gè)概念是數(shù)據(jù)挖掘,而不是機(jī)器學(xué)習(xí)。因此,我認(rèn)為數(shù)據(jù)挖掘的概念比較廣泛,屬于工程應(yīng)用范疇。五年前,我們公司談?wù)摂?shù)據(jù)挖掘并舉辦了這樣的比賽。掌握了數(shù)據(jù)挖掘的應(yīng)用軟件和標(biāo)準(zhǔn)流程,如SAS、Clementine等數(shù)據(jù)挖掘平臺。這些平臺大多基于圖形化操作,應(yīng)用門檻較低。直到最近兩年,我們才開始談?wù)摍C(jī)器學(xué)習(xí)、深度學(xué)習(xí)和人工智能。根據(jù)我的工作經(jīng)驗(yàn),數(shù)據(jù)挖掘是一個(gè)流行的概念。所有的業(yè)務(wù)部門都知道這個(gè)概念,而機(jī)器學(xué)習(xí)屬于專業(yè)化?,F(xiàn)在業(yè)務(wù)部門仍然不知道什么是機(jī)器學(xué)習(xí)。事實(shí)上,很難嚴(yán)格區(qū)分兩者的關(guān)系。如果你看看最權(quán)威的數(shù)據(jù)挖掘和機(jī)器學(xué)習(xí)教材,你會發(fā)現(xiàn)其中大部分都是重復(fù)的。因?yàn)樗麄兪莾蓚€(gè)名字,他們的重點(diǎn)應(yīng)該是不同的。我的理解是,數(shù)據(jù)挖掘的后端與機(jī)器學(xué)習(xí)的前端重復(fù),機(jī)器學(xué)習(xí)的后端與深度學(xué)習(xí)的前端重復(fù)。數(shù)據(jù)挖掘的前端是數(shù)據(jù)的收集、清理和處理,與大數(shù)據(jù)相關(guān),涉及到數(shù)據(jù)倉庫,而機(jī)器學(xué)習(xí)并不關(guān)心這些。也就是說,要為機(jī)器學(xué)習(xí)提前準(zhǔn)備好數(shù)據(jù)的原材料。機(jī)器學(xué)習(xí)更加關(guān)注學(xué)習(xí)問題,努力學(xué)習(xí)知識,像人類一樣理解世界。它們最大的區(qū)別在于:數(shù)據(jù)挖掘關(guān)注數(shù)據(jù)中的規(guī)則和知識,而不關(guān)心數(shù)據(jù)為什么產(chǎn)生這些規(guī)則和知識,也就是說,你只看到表象,卻不知道本質(zhì)原因。相反,機(jī)器學(xué)習(xí)更關(guān)注學(xué)習(xí)數(shù)據(jù)的生成機(jī)制,即數(shù)據(jù)是從什么概率模型生成的。有時(shí)機(jī)器學(xué)習(xí)也被稱為統(tǒng)計(jì)學(xué)習(xí),這就是原因。當(dāng)數(shù)據(jù)生成機(jī)制出現(xiàn)時(shí),數(shù)據(jù)中的規(guī)則將被自然地知道。正是因?yàn)闄C(jī)器學(xué)習(xí)注重?cái)?shù)據(jù)生成機(jī)制的學(xué)習(xí),產(chǎn)生了大量的研究內(nèi)容,發(fā)展了核機(jī)器、極大似然估計(jì)、最大熵模型、最大后驗(yàn)估計(jì)、期望最大化算法、高斯過程、概率圖模型等,變分推理和其他工具。數(shù)據(jù)挖掘教科書通常沒有這些高級內(nèi)容。
傳統(tǒng)的機(jī)器學(xué)習(xí)一般對數(shù)據(jù)生成機(jī)制做一些先驗(yàn)假設(shè),比如假設(shè)數(shù)據(jù)是高斯分布生成的,然后學(xué)習(xí)高斯分布的參數(shù)。此外,如果沒有這樣的假設(shè),應(yīng)該怎么做?一般采用非參數(shù)密度估計(jì)技術(shù),如核估計(jì),最近流行的與深度學(xué)習(xí)相結(jié)合的方法,如生成對抗網(wǎng)絡(luò)(Gans),變分自編碼等,大數(shù)據(jù)是未來的發(fā)展趨勢?,F(xiàn)在學(xué)習(xí)更多是沒有錯(cuò)的。越來越多的企業(yè)將使用大數(shù)據(jù)分析。
我通常自己學(xué)習(xí)。我只需要多做點(diǎn)事,多讀點(diǎn)書。我關(guān)注“大數(shù)據(jù)Java架構(gòu)師”。通過私信回復(fù)“大數(shù)據(jù)”,我可以獲得很多免費(fèi)信息。如果你不明白,你可以問我。如果你需要找一個(gè)從事大數(shù)據(jù)工作的人,你可以加我為好友,盡你所能幫你推薦。