BP算法 多層感知器,為什么能實(shí)現(xiàn)非線性?
多層感知器,為什么能實(shí)現(xiàn)非線性?由于增加了激活函數(shù),如果激活函數(shù)是非線性的,則可以實(shí)現(xiàn)非線性。這個(gè)原則很簡(jiǎn)單。你可以試著用非線性函數(shù)來(lái)設(shè)置一個(gè)線性函數(shù)來(lái)運(yùn)算,結(jié)果一定是非線性的。然而,多層感知器網(wǎng)絡(luò)不
多層感知器,為什么能實(shí)現(xiàn)非線性?
由于增加了激活函數(shù),如果激活函數(shù)是非線性的,則可以實(shí)現(xiàn)非線性。這個(gè)原則很簡(jiǎn)單。你可以試著用非線性函數(shù)來(lái)設(shè)置一個(gè)線性函數(shù)來(lái)運(yùn)算,結(jié)果一定是非線性的。
然而,多層感知器網(wǎng)絡(luò)不一定具有激活函數(shù),并且激活函數(shù)不一定是非線性的。該方法可人為設(shè)定,僅利用非線性激活函數(shù)加隨機(jī)權(quán)初值,是理論和實(shí)踐驗(yàn)證的最佳方法。