隨機(jī)梯度下降的優(yōu)缺點(diǎn) 梯度下降法和隨機(jī)梯度下降法的區(qū)別？
梯度下降法和隨機(jī)梯度下降法的區(qū)別？梯度下降算法是一個(gè)寬泛的概念，意思是：當(dāng)你優(yōu)化一個(gè)函數(shù)/分類(lèi)器時(shí)，如何減少它的誤差？你不妨選擇梯度下降的方向，這很可能是最好的方向。既然你知道方向是梯度，你要走多久？
梯度下降法和隨機(jī)梯度下降法的區(qū)別？
梯度下降算法是一個(gè)寬泛的概念，意思是：當(dāng)你優(yōu)化一個(gè)函數(shù)/分類(lèi)器時(shí)，如何減少它的誤差？你不妨選擇梯度下降的方向，這很可能是最好的方向。既然你知道方向是梯度，你要走多久？答案是：隨機(jī)的。因此，梯度下降算法包括隨機(jī)梯度下降算法。