隨機梯度下降法優(yōu)缺點 梯度下降法和隨機梯度下降法的區(qū)別？
梯度下降法和隨機梯度下降法的區(qū)別？梯度下降算法是一個寬泛的概念，意思是：當你優(yōu)化一個函數(shù)/分類器時，如何減少它的誤差？你不妨選擇梯度下降的方向，這很可能是最好的方向。既然你知道方向是梯度，你要走多久？
梯度下降法和隨機梯度下降法的區(qū)別？
梯度下降算法是一個寬泛的概念，意思是：當你優(yōu)化一個函數(shù)/分類器時，如何減少它的誤差？你不妨選擇梯度下降的方向，這很可能是最好的方向。既然你知道方向是梯度，你要走多久？答案是：隨機的。因此，梯度下降算法包括隨機梯度下降算法。
邏輯斯蒂映射原理？
Logistic映射原理：每次更新都使用所有樣本，因此此優(yōu)化算法為普通梯度下降法。如果每次更新只使用一部分樣本甚至一個樣本，那就是隨機梯度下降法SGD。