暂无图片
暂无图片
暂无图片
暂无图片
暂无图片

SVM为什么引入对偶问题

百面机器学习 2020-09-12
2274

问题引入

大家知道在SVM求解的过程中,需要用到对偶的方法,那么为什么使用这个对偶的方法呢,有什么好处吗?

问题解答

1,对偶问题将原始问题中的约束转为了对偶问题中的等式约束,对偶问题往往更加容易求解。

2,可以很自然的引用核函数(拉格朗日表达式里面有内积,而核函数也是通过内积进行映射的)。

3,在优化理论中,目标函数 f(x) 会有多种形式:如果目标函数和约束条件都为变量 x 的线性函数,称该问题为线性规划;如果目标函数为二次函数,约束条件为线性函数,称该最优化问题为二次规划;如果目标函数或者约束条件均为非线性函数,称该最优化问题为非线性规划。每个线性规划问题都有一个与之对应的对偶问题,对偶问题有非常良好的性质,以下列举几个:

a, 对偶问题的对偶是原问题;

b, 无论原始问题是否是凸的,对偶问题都是凸优化问题;

c, 对偶问题可以给出原始问题一个下界;

d, 当满足一定条件时,原始问题与对偶问题的解是完全等价的。

参考:

[1] https://blog.csdn.net/chaipp0607/article/details/73849539

喜欢就关注一下啦~~~





文章转载自百面机器学习,如果涉嫌侵权,请发送邮件至:contact@modb.pro进行举报,并提供相关证据,一经查实,墨天轮将立刻删除相关内容。

评论