本文将详细展示一个多类支持向量机分类器训练iris数据集来分类三种花。
SVM算法最初是为二值分类问题设计的,但是也可以通过一些策略使得其能进行多类分类。主要的两种策略是:一对多(one versus all)方法;一对一(one versus one)方法。
一对一方法是在任意两类样本之间设计创建一个二值分类器,然后得票最多的类别即为该未知样本的预测类别。但是当类别(k类)很多的时候,就必须创建k!/(k-2)!2!个分类器,计算的代价还是相当大的。
另外一种实现多类分类器的方法是一对多,其为
为了利用ROC曲线下的面积(AUC),更好地评价多类SVM学习效果,提出了MOSMAUC(multi-objective optimizes multiclass SVM based on AUC)算法。该算法采用AUC作为评价标准,利用多目标优化算法作为SVM参数的优化方法,避免优化对象的AUC值过低问题,因为在多类分类学习中任何一个两类分类的AUC值太低,都会影响整体学习的效果。实验结果表明,提出的优化方法改进了算法的学习能力,取得了较好的学习效果。