第五章-SVM-序列最小追踪

VIP免费

2025-01-13 0 0 445.66KB 13 页 5.9玖币

侵权投诉

5.5 序列最小优化算法

•什么是序列最小优化算法?

•序列最小优化算法

什么是序列最小优化算法?

⚫支持向量机的学习问题可以形式化为求解具有全局最优解的凸二次规划

问题。许多方法可以用于求解这一问题，但当训练样本容量很大时，这

些算法往往效率较低，以致无法使用。

⚫序列最小优化算法（ Sequential Minimal Optimization, SMO ）

➢一种启发式算法，用于解决支持向量机训练目标函数优化问题

➢基本思想：不断地将原二次规划问题分解为只有两个变量的二次规划问题，并

对子问题进行解析求解，直到所有变量都满足KKT条件为止。因为子问题解析

解存在，所以每次计算子问题都很快，虽然子问题次数很多，但是总体上还是

高效的。

【1999年J. C. Platt提出】

序列最小优化算法

⚫SMO算法解凸二次规划问题

➢优化目标：

➢SMO是解决支持向量机优化问题的迭代算法。由于目标函数为凸函数，一般的

优化算法都通过梯度方法一次优化一个变量求解二次规划问题的最大值，但由

于限制条件

，当某个从更新至时等式约束不成立，上

述限制条件被打破。为了满足约束条件，SMO采用一次更新两个变量的方法。



















  





文档加载中……请稍候！
如果长时间未打开，您也可以点击刷新试试。

下载文档到电脑，查找使用更方便

5.9 玖币 0人已下载

立即下载 VIP免费下载

摘要：

5.5序列最小优化算法•什么是序列最小优化算法?•序列最小优化算法什么是序列最小优化算法?⚫支持向量机的学习问题可以形式化为求解具有全局最优解的凸二次规划问题。许多方法可以用于求解这一问题，但当训练样本容量很大时，这些算法往往效率较低，以致无法使用。⚫序列最小优化算法（SequentialMinimalOptimization,SMO）➢一种启发式算法，用于解决支持向量机训练目标函数优化问题➢基本思想：不断地将原二次规划问题分解为只有两个变量的二次规划问题，并对子问题进行解析求解，直到所有变量都满足KKT条件为止。因为子问题解析解存在，所以每次计算子问题都很快，虽然子问题次数很多，但是总体上还...

展开>> 收起<<

第五章-SVM-序列最小追踪.pdf

共13页,预览3页

还剩页未读，继续阅读

声明：本站为文档C2C交易模式，即用户上传的文档直接被用户下载，本站只是中间服务平台，本站所有文档下载所得的收益归上传人(含作者)所有。玖贝云文库仅提供信息存储空间，仅对用户上传内容的表现方式做保护处理，对上载内容本身不做任何修改或编辑。若文档所含内容侵犯了您的版权或隐私，请立即通知玖贝云文库，我们立即给予删除！

第五章-SVM-序列最小追踪

相关推荐

开通VIP享超值会员特权

作者详情

相关内容

热门标签

举报选择: