機(jī)器學(xué)習(xí)需要哪些數(shù)學(xué)基礎(chǔ)？主要是線性代數(shù)和概率論?，F(xiàn)在最流行的機(jī)器學(xué)習(xí)模型，神經(jīng)網(wǎng)絡(luò)基本上有很多向量、矩陣、張量。從激活函數(shù)到損失函數(shù)，從反向傳播到梯度下降，都是對(duì)這些向量、矩陣和張量的運(yùn)算和操作。其

機(jī)器學(xué)習(xí)需要哪些數(shù)學(xué)基礎(chǔ)？

主要是線性代數(shù)和概率論。

現(xiàn)在最流行的機(jī)器學(xué)習(xí)模型，神經(jīng)網(wǎng)絡(luò)基本上有很多向量、矩陣、張量。從激活函數(shù)到損失函數(shù)，從反向傳播到梯度下降，都是對(duì)這些向量、矩陣和張量的運(yùn)算和操作。

其他“傳統(tǒng)”機(jī)器學(xué)習(xí)算法也使用大量線性代數(shù)。例如，線性回歸與線性代數(shù)密切相關(guān)。

從線性代數(shù)的觀點(diǎn)來看，主成分分析是對(duì)協(xié)方差矩陣進(jìn)行對(duì)角化。

尤其是當(dāng)你讀論文或想更深入的時(shí)候，概率論的知識(shí)是非常有用的。

它包括邊緣概率、鏈?zhǔn)揭?guī)則、期望、貝葉斯推理、最大似然、最大后驗(yàn)概率、自信息、香農(nóng)熵、KL散度等。

神經(jīng)網(wǎng)絡(luò)非常講究“可微性”，因?yàn)榭晌⒛Ｐ涂梢杂锰荻认陆捣▋?yōu)化。梯度下降和導(dǎo)數(shù)是分不開的。所以多元微積分也需要。另外，由于機(jī)器學(xué)習(xí)是以統(tǒng)計(jì)方法為基礎(chǔ)的，因此統(tǒng)計(jì)知識(shí)是必不可少的。但是，大多數(shù)理工科專業(yè)學(xué)生都應(yīng)該學(xué)過這兩部分內(nèi)容，所以這可能不屬于需要補(bǔ)充的內(nèi)容。

層次分析法采用特征根的方法計(jì)算出特征向量后，經(jīng)歸一化后就是權(quán)重向量。什么叫歸一化?歸一化需要如何處？

歸一化相對(duì)簡(jiǎn)單，因?yàn)樘卣飨蛄康暮筒灰欢ㄊ?，所以我們需要將特征向量除以這些向量的和，新的數(shù)字就是權(quán)重向量。例如：得到的特征向量是（0.6853 0.2213 0.0933），它們的和是0.9999，而不是1，所以需要對(duì)它們進(jìn)行規(guī)格化。分別為6853/0.9999、0.2213/0.9999、0.0933/0.9999。然后四舍五入，最后的數(shù)字是（0.68540.22130.0933），這些值的和是1，所以稱為歸一化。