BP算法 前饋神經(jīng)網(wǎng)絡(luò)、BP神經(jīng)網(wǎng)絡(luò)、卷積神經(jīng)網(wǎng)絡(luò)的區(qū)別與聯(lián)系?
前饋神經(jīng)網(wǎng)絡(luò)、BP神經(jīng)網(wǎng)絡(luò)、卷積神經(jīng)網(wǎng)絡(luò)的區(qū)別與聯(lián)系?前饋神經(jīng)網(wǎng)絡(luò)是一層節(jié)點,只把前一層作為輸入,輸出到后一層,本身和其他層之間沒有聯(lián)系,因為數(shù)據(jù)是一層前向傳播的,所以叫前饋網(wǎng)絡(luò)。BP網(wǎng)絡(luò)是最常見的前
前饋神經(jīng)網(wǎng)絡(luò)、BP神經(jīng)網(wǎng)絡(luò)、卷積神經(jīng)網(wǎng)絡(luò)的區(qū)別與聯(lián)系?
前饋神經(jīng)網(wǎng)絡(luò)是一層節(jié)點,只把前一層作為輸入,輸出到后一層,本身和其他層之間沒有聯(lián)系,因為數(shù)據(jù)是一層前向傳播的,所以叫前饋網(wǎng)絡(luò)。
BP網(wǎng)絡(luò)是最常見的前饋網(wǎng)絡(luò)之一。BP體現(xiàn)在運行機制上。數(shù)據(jù)輸入后,逐層向前傳播,然后計算損失函數(shù),得到損失函數(shù)的殘差,再逐層向后傳播殘差。
卷積神經(jīng)網(wǎng)絡(luò)是基于人類視覺的特點,即視覺是從局部到全局的認知,所以并不是所有的人都使用全連接(一般只有1-2個全連接層,甚至最近的研究建議取消CNN的全連接層),而是使用滑動窗口只處理一個部分,這個運算就像一個濾波器,這個運算叫做卷積運算(不是卷積運算)信號處理的卷積運算,當(dāng)然也可以用卷積運算)。這種網(wǎng)絡(luò)稱為卷積神經(jīng)網(wǎng)絡(luò)。
目前最流行的網(wǎng)絡(luò)有前饋網(wǎng)絡(luò)和遞歸網(wǎng)絡(luò),一般都是BP網(wǎng)絡(luò);深度網(wǎng)絡(luò)一般采用卷積運算,因此也屬于卷積神經(jīng)網(wǎng)絡(luò)。但大多數(shù)卷積網(wǎng)絡(luò)都不在BP網(wǎng)絡(luò)的范圍內(nèi)。