K近鄰分類算法是一種理論上比較成熟的分類方法，也是最簡單的機(jī)器學(xué)習(xí)算法之一。該方法的思想是：如果特征空間中k個(gè)最相似的樣本大部分屬于某一類別，則該樣本也屬于該類別。KNN算法中K是怎么決定的？k近鄰算

K近鄰分類算法是一種理論上比較成熟的分類方法，也是最簡單的機(jī)器學(xué)習(xí)算法之一。該方法的思想是：如果特征空間中k個(gè)最相似的樣本大部分屬于某一類別，則該樣本也屬于該類別。

KNN算法中K是怎么決定的？

k近鄰算法的k值通常取相對較小的值。例如，交叉驗(yàn)證法用于選擇最佳k值。

k近鄰算法的k值必須是什么數(shù)？

在分類：KNN（k-最近鄰）訓(xùn)練階段：記住所有點(diǎn)測試階段：計(jì)算新點(diǎn)a和原始數(shù)據(jù)預(yù)測中每個(gè)點(diǎn)之間的歐氏距離：找到離點(diǎn)a最近的k點(diǎn)，看哪個(gè)分類點(diǎn)k點(diǎn)屬于最多，然后將點(diǎn)a劃分為該類缺點(diǎn)：SVM（支持向量機(jī)）在測試階段花費(fèi)的時(shí)間太長，KNN與機(jī)器學(xué)習(xí)的區(qū)別在于logistic回歸更像分類算法。不同的是logistic回歸采用logistic損失，支持向量機(jī)采用后驗(yàn)損失。這兩個(gè)損失函數(shù)的目的是增加對分類影響較大的數(shù)據(jù)點(diǎn)的權(quán)重，減少與分類關(guān)系較小的數(shù)據(jù)點(diǎn)的權(quán)重。支持向量機(jī)是稀疏的，因?yàn)樗ㄟ^支持向量機(jī)。Logistic回歸通過使用權(quán)重來降低異常值的權(quán)重。

k-means和knn算法的區(qū)別？

K-means聚類算法是HCM（普通的硬c-means聚類算法），這是一種硬劃分方法，結(jié)果不是1就是0，沒有其他情況，具有“非此即彼”的性質(zhì)。

隸屬度矩陣為u。FCM是HCM算法對模糊情況的推廣，用于模糊分類，并給出隸屬度的權(quán)重。