神經(jīng)網(wǎng)絡(luò)的分類(lèi)特點(diǎn)和區(qū)別 bp神經(jīng)網(wǎng)絡(luò)和hopfield神經(jīng)網(wǎng)絡(luò)有什么區(qū)別?
bp神經(jīng)網(wǎng)絡(luò)和hopfield神經(jīng)網(wǎng)絡(luò)有什么區(qū)別?BP神經(jīng)網(wǎng)絡(luò)是ANN甩漿神經(jīng)中的一種,具體方法的神經(jīng)網(wǎng)絡(luò)有BP、RBF、SOM、Hopfield等等,其功穿駭扁較壯記憋席鉑蘆能不經(jīng)不同,可比起來(lái)AN
bp神經(jīng)網(wǎng)絡(luò)和hopfield神經(jīng)網(wǎng)絡(luò)有什么區(qū)別?
BP神經(jīng)網(wǎng)絡(luò)是ANN甩漿神經(jīng)中的一種,具體方法的神經(jīng)網(wǎng)絡(luò)有BP、RBF、SOM、Hopfield等等,其功穿駭扁較壯記憋席鉑蘆能不經(jīng)不同,可比起來(lái)ANN的主要功能是模式識(shí)別和分類(lèi)訓(xùn)練。
BP神經(jīng)網(wǎng)絡(luò)模型的意義?
BP(backpropagation)神經(jīng)網(wǎng)絡(luò)是1986年由Rumelhart和McClelland為首者的科學(xué)家提出的概念,是一種遵循誤差分步傳播算法訓(xùn)練的多層自適應(yīng)算法神經(jīng)網(wǎng)絡(luò),是應(yīng)用最廣泛的神經(jīng)網(wǎng)絡(luò)。
BP神經(jīng)網(wǎng)絡(luò)具有任意復(fù)雜的模式分類(lèi)能力和品種優(yōu)良的四維一體函數(shù)映射能力,能解決了很簡(jiǎn)單感應(yīng)能力器又不能可以解決的異或(Exclusive有.,XOR)和一些其他問(wèn)題。從結(jié)構(gòu)上講,BP網(wǎng)絡(luò)本身然后輸入層、封印層和輸出層;從本質(zhì)上講,BP算法應(yīng)該是以網(wǎng)絡(luò)誤差平方為目標(biāo)函數(shù)、需要梯度下降法來(lái)計(jì)算目標(biāo)函數(shù)的最小值。
什么是3D卷積?3D卷積和2D卷積有何區(qū)別?
1D卷積是對(duì)唯有一個(gè)維度的時(shí)間序列提純特征,例如信號(hào)、股價(jià)、天氣、文本等等。其它的2D卷積是其他提取的單張靜態(tài)圖像的空間特征,同神經(jīng)網(wǎng)絡(luò)加強(qiáng)之后在圖像的分類(lèi)、檢測(cè)檢測(cè)等任務(wù)上拿到了挺好的效果??墒菍?duì)視頻,即多幀圖像就束手無(wú)措了,是因?yàn)?D卷積就沒(méi)決定到圖像之間的時(shí)間維度上的物體運(yùn)動(dòng)信息,即光影場(chǎng)。因此,目的是也能對(duì)視頻接受特征,以便為了分類(lèi)等任務(wù),就提出了3D卷積,在卷積核中加入時(shí)間維度。下圖就很不錯(cuò)的那說(shuō)明了2D卷積和3D卷積之間的差異。
下面就更加細(xì)致的介紹不同維度卷積之間的差別,下圖是tensorflow中差別卷積中再輸入數(shù)據(jù)的大小包括各個(gè)維度所意思是的含義。
無(wú)論是何地卷積,他們都具備卷積層操作所給了的優(yōu)勢(shì):
1.互相訪問(wèn)權(quán)重也讓要怎么學(xué)習(xí)的參數(shù)有所減少了;
2.都能夠很好的提取出數(shù)據(jù)局部特征,以及隨著卷積層數(shù)的增加,能感受到野的擴(kuò)大,所能分離提取高級(jí)特征和全局的特征。
舉個(gè)例子來(lái)詳細(xì)的說(shuō)明看看3D卷積神經(jīng)網(wǎng)絡(luò)的結(jié)構(gòu),下圖就是一個(gè)視頻行為識(shí)別網(wǎng)絡(luò)。
可以找到其整個(gè)網(wǎng)絡(luò)架構(gòu)同2D卷積核的AlexNet十分類(lèi)似于。只不過(guò)將2D操作也都你升級(jí)為3D不能操作了。輸入輸入數(shù)據(jù)為后的7幀灰度圖圖像;H1層為人為設(shè)計(jì)什么的特征提取層,對(duì)每一幀分離提取5個(gè)特征,四個(gè)是原始的灰度、橫向梯度、橫向梯度、縱向光流和橫向光流,得到33*60*40大小的特征圖。再當(dāng)經(jīng)過(guò)兩個(gè)3D卷積核的卷積,得到23*2張54*34大小的特征圖。下一刻下重新采樣,只對(duì)特征的大小參與減少一點(diǎn)。然后把重復(fù)根據(jù)上述規(guī)定過(guò)程,再接兩層全鏈接層,得到到最后的預(yù)測(cè)結(jié)果。