用同一數(shù)據(jù)集訓(xùn)練神經(jīng)網(wǎng)絡(luò)，每次訓(xùn)練結(jié)果不一樣，有時正確率很高，有時很低，為什么？其實這個問題的實質(zhì)是，如果我們用機(jī)器學(xué)習(xí)算法在數(shù)據(jù)集上訓(xùn)練一次數(shù)據(jù)模型，保存模型，然后用同樣的算法和同樣的數(shù)據(jù)集和數(shù)據(jù)排

用同一數(shù)據(jù)集訓(xùn)練神經(jīng)網(wǎng)絡(luò)，每次訓(xùn)練結(jié)果不一樣，有時正確率很高，有時很低，為什么？

其實這個問題的實質(zhì)是，如果我們用機(jī)器學(xué)習(xí)算法在數(shù)據(jù)集上訓(xùn)練一次數(shù)據(jù)模型，保存模型，然后用同樣的算法和同樣的數(shù)據(jù)集和數(shù)據(jù)排序再訓(xùn)練一遍，第一個模型和第二個模型是一樣的嗎？

這可能是因為神經(jīng)網(wǎng)絡(luò)用增益或權(quán)重的隨機(jī)值初始化，然后每個模擬在訓(xùn)練階段有不同的起點。如果您希望始終保持相同的初始權(quán)重，可以嘗試為初始權(quán)重修復(fù)種子以消除問題。

如果我們深入研究這個問題，我們可以根據(jù)ml算法的“確定性”來對其進(jìn)行分類。當(dāng)從同一個數(shù)據(jù)集進(jìn)行訓(xùn)練時：

一個是總是生成相同的模型，并且記錄以相同的順序呈現(xiàn)；

另一個是總是生成不同的模型，并且記錄順序不同。

在實踐中，大多數(shù)是“不確定的”。模型變化的原因可能是機(jī)器學(xué)習(xí)算法本身存在隨機(jī)游走、不同權(quán)值的隨機(jī)初始化、不同分量的概率分布抽樣來分配優(yōu)化函數(shù)。

雖然模型的“不確定性”可能會對單個訓(xùn)練結(jié)果造成干擾，但我們也可以用“不確定性”來確認(rèn)模型的穩(wěn)定性，如決策樹、支持向量機(jī)（SVM）、神經(jīng)網(wǎng)絡(luò)等，最終可以通過多次迭代來確認(rèn)模型的穩(wěn)定性。

既然使用神經(jīng)網(wǎng)絡(luò)也可以解決分類問題，那SVM、決策樹這些算法還有什么意義呢？

這取決于數(shù)據(jù)量和樣本數(shù)。不同的樣本數(shù)和特征數(shù)據(jù)適合不同的算法。像神經(jīng)網(wǎng)絡(luò)這樣的深度學(xué)習(xí)算法需要訓(xùn)練大量的數(shù)據(jù)集來建立更好的預(yù)測模型。許多大型互聯(lián)網(wǎng)公司更喜歡深度學(xué)習(xí)算法，因為他們獲得的用戶數(shù)據(jù)是數(shù)以億計的海量數(shù)據(jù)，這更適合于卷積神經(jīng)網(wǎng)絡(luò)等深度學(xué)習(xí)算法。

如果樣本數(shù)量較少，則更適合使用SVM、決策樹和其他機(jī)器學(xué)習(xí)算法。如果你有一個大的數(shù)據(jù)集，你可以考慮使用卷積神經(jīng)網(wǎng)絡(luò)和其他深度學(xué)習(xí)算法。

以下是一個圖表，用于說明根據(jù)樣本數(shù)量和數(shù)據(jù)集大小選擇的任何機(jī)器學(xué)習(xí)算法。

如果你認(rèn)為它對你有幫助，你可以多表揚，也可以關(guān)注它。謝謝您

很小的數(shù)據(jù)集用深度神經(jīng)網(wǎng)絡(luò)跑有沒有必要？

這取決于它有多小。

一般來說，如果數(shù)據(jù)個數(shù)n小于特征個數(shù)F，則不推薦使用神經(jīng)網(wǎng)絡(luò)，支持向量機(jī)更好。

最好使用嵌套CV來評估性能。

神經(jīng)網(wǎng)絡(luò)是大數(shù)據(jù)嗎？

神經(jīng)網(wǎng)絡(luò)不是大數(shù)據(jù)，神經(jīng)網(wǎng)絡(luò)是一種大數(shù)據(jù)處理方法。

自2016年以來，阿爾法犬以4:1奪得人類圍棋冠軍，以神經(jīng)網(wǎng)絡(luò)為代表的人工智能開始流行。神經(jīng)網(wǎng)絡(luò)（現(xiàn)在一般稱為人工神經(jīng)網(wǎng)絡(luò)），它是一種模擬動物神經(jīng)網(wǎng)絡(luò)行為特征、分布式并行信息處理算法的數(shù)學(xué)模型。這種網(wǎng)絡(luò)依賴于系統(tǒng)的復(fù)雜性，通過調(diào)整大量內(nèi)部節(jié)點之間的關(guān)系，從而達(dá)到處理信息的目的。

大數(shù)據(jù)和神經(jīng)網(wǎng)絡(luò)（以及其他人工智能）經(jīng)常一起討論，而且它們密切相關(guān)。正是因為有大量關(guān)于用戶行為的網(wǎng)絡(luò)大數(shù)據(jù)，我們可以利用神經(jīng)網(wǎng)絡(luò)等方法對大數(shù)據(jù)進(jìn)行分析，從而模擬人類的行為，使計算機(jī)也能識別圖形、識別聲音、分析問題、找到問題的最優(yōu)解等。大數(shù)據(jù)的出現(xiàn)和興起，也帶動了神經(jīng)網(wǎng)絡(luò)技術(shù)的發(fā)展。為了處理大量的搜索行為數(shù)據(jù)，Google投入了大量的研究人員對人工神經(jīng)網(wǎng)絡(luò)進(jìn)行優(yōu)化以提高效率，最終開發(fā)出alpha狗。阿里巴巴、百度等其他公司也在神經(jīng)網(wǎng)絡(luò)等人工智能技術(shù)領(lǐng)域投入了大量研究人員。

神經(jīng)網(wǎng)絡(luò)和大數(shù)據(jù)可以簡單地分別與人的大腦和所見所聞進(jìn)行比較。神經(jīng)網(wǎng)絡(luò)是一種數(shù)據(jù)處理方法，它往往依賴于計算機(jī)程序；大數(shù)據(jù)是大量的客觀數(shù)據(jù)和信息，大數(shù)據(jù)不依賴于計算機(jī)程序，而是存儲在硬盤、云硬盤等物理設(shè)備中。