SVM和logistic回归的比较
SVM和logistic回归都是比较常用的算法，而这两个算法有什么异同点呢。下面是自己的总结，当然也是自己的一些见解。
相同点：
1.都是分类模型
2.都是判别模型
不同点：
1.从损失函数角度：SVM用的是hinge loss,而logistic回归用的是对率损失
2.从方法角度： SVM用的是统计方法，SVM最大间隔有完备的理论，logistic回归是概率方法。
3.从对噪声的影响角度：SVM对噪声比较敏感，而logistic回归对噪声不是很敏感，是因为如果噪声点落在了支持向量上，将会直接影响判别面的方程。而logistic回归通过最大似然求解模型参数，将会弱化噪声的影响。
4.从结果角度：SVM只能得到测试点属于哪一类，而logistic回归能得到属于哪一类的概率，当然在SVM也可以通过样本点离判别面的相对距离进行输出属于该类的概率。
5.从优化方法角度：SVM有专门属于自己的特点的优化方法，SMO算法，该算法对于优化SVM非常的高效。logistic回归可以通过一些常用的算法，如梯度下降，共轭梯度下降，牛顿法
6.处理非线性的角度： SVM可以通过核方法，logistic可以通过特征的离散化将其非线性化。
7.处理大数据角度： SVM很难处理大数据，因为SVM模型主要是由支持向量决定，而支持向量随着数据量多项式增加。而logistic可以很容易运用到大数据当中。
智能推荐
注意！
本站转载的文章为个人学习借鉴使用，本站对版权不负任何法律责任。如果侵犯了您的隐私权益，请联系我们删除。