1、模型目標(biāo)函數(shù)
Linear SVM的目標(biāo)是最大化間隔，即在滿足分類約束的條件下，尋找間隔最大的超平面。而邏輯回歸的目標(biāo)是最小化對(duì)數(shù)損失，通過估計(jì)樣本屬于某一類的概率。
2、決策邊界
Linear SVM尋找間隔最大的超平面進(jìn)行分類，確保每個(gè)類別的支持向量到?jīng)Q策邊界的距離最大化。邏輯回歸則通過估計(jì)概率來得到?jīng)Q策邊界，形成一個(gè)平滑的sigmoid函數(shù)。
3、對(duì)異常值敏感度
Linear SVM對(duì)異常值比較敏感，因?yàn)橹С窒蛄恐苯佑绊憶Q策邊界。邏輯回歸則相對(duì)對(duì)異常值不太敏感，因?yàn)樗谡w樣本來估計(jì)概率。
4、計(jì)算復(fù)雜度
Linear SVM通常計(jì)算復(fù)雜度較高，需要解決二次規(guī)劃問題。而邏輯回歸使用梯度下降等優(yōu)化方法，計(jì)算復(fù)雜度相對(duì)較低。
5、模型解釋性
邏輯回歸具有良好的解釋性，可以直接通過權(quán)重解釋每個(gè)特征的重要性。Linear SVM的解釋性相對(duì)較差，因?yàn)樗P(guān)注的是支持向量而非整個(gè)數(shù)據(jù)集。
常見問答
Linear SVM和LR在分類效果上哪個(gè)更好？沒有統(tǒng)一答案，取決于具體數(shù)據(jù)和任務(wù)。Linear SVM對(duì)某些非線性可分問題更有效，LR則可能在需要概率輸出時(shí)更合適。
Linear SVM是否適合多分類問題？是的，通過一對(duì)多或一對(duì)一的策略，Linear SVM可以應(yīng)用于多分類問題。
邏輯回歸的計(jì)算復(fù)雜度是否總是低于Linear SVM?不一定，取決于優(yōu)化算法和具體數(shù)據(jù)集。
Linear SVM的異常值敏感度高是否意味著在噪聲數(shù)據(jù)上表現(xiàn)差？可能是的，高敏感度可能使Linear SVM在噪聲數(shù)據(jù)上的性能下降。
邏輯回歸的解釋性是否總是比Linear SVM強(qiáng)？通常情況下是這樣，但取決于具體情況和需求。
京公網(wǎng)安備 11010802030320號(hào)