某校模式识别与机器学习汇总

VIP免费

2025-01-13 0 0 1.44MB 25 页 5.9玖币

侵权投诉

第一章：

模式：存在于时间和空间中可观察的物体，如果我们可以区别它们是否相同或是否相似，都

可以称之为模式

模式的特点：可观察性、可区分性、相似性

模式识别定义：利用计算机对物理对象进行分类，在错误概率最小的条件下，使识别的结果

尽量与客观物体相符合

机器学习：研究如何构造理论、算法和计算机系统，让机器通过从数据中学习后可以进行如

下工作：分类和识别事物、推理决策、预测未来等

模式识别系统的目标：在特征空间和解释空间之间找到一种映射关系

特征空间：从模式得到的对分类有用的度量、属性或基元构成的空间。

解释空间：类别

机器学习的目标：针对某类任务 T，用 P衡量性能，根据经验来学习和自我完善，提高性能。

假说的两种获得方法：监督学习（概念驱动）;非监督学习（数据驱动）

数据聚类：用某种相似性度量的方法将原始数据组织成有意义的和有用的各种数据集。

统计分类：基于概率统计模型得到各类别的特征向量的分布，以取得分类的方法。

结构模式识别：考虑识别对象的各部分之间的联系来达到识别分类的目的（句法识别）

无监督学习与监督学习的不同之处在于，事先没有任何训练样本，需要直接对数据进行建模，

寻找数据的内在结构及规律，如类别和聚类

半监督学习：主要考虑如何利用少量的标注样本和大量的未标注样本进行训练和分类的问题

训练集：是一个已知样本集，在监督学习方法中，用它来开发出模式分类器。

测试集：在设计识别和分类系统时没有用过的独立样本集

第二章：

1、贝叶斯判别：

似然比 l12 ; 判别阈值 θ21; 当l12>θ21 时，分作第一类。要知道似然比和阈值怎么求。

也可以比较判别函数：，取最大的

2、贝叶斯最小风险判别：

Lij 表示把本属于 i类的样本判断成 j类的代价。

M类问题中的平均风险 rj:把样本判断成 j类的平均风险。

Lij 的取值：

若i=j，即判别正确，得分， Lij 可以取负值或零，表示不失分。

若i≠j，即判别错误，失分， Lij 应取正值。

X会被判断成 rj最小的那一类去

贝叶斯最小风险判别时，似然比 l12 不变，判别阈值 θ21

3.正态分布模式的贝叶斯分类

多元正态分布的密度函数是什么？

判别函数可以写成：

可以对其取对数，有

求解有正态分布下的判别函数为：

M种模式类别的多变量正态类密度函数：判别函数是一个超二次曲面

两类问题且其类模式都是正态分布的特殊情况：协方差不等时，为二次曲线，协方差相等时，

为一条直线

当两类问题且 C1=C2 时，有判别面为：

4.难点：均值的后验估计

关键点 1：求均值 θ的后验密度

上式子分母为常数，可以表示为

关键假设：

把均值 θ的后验密度表示出来，此后验密度仍为正态分布。

假设后验密度服从

就可以得到

最后 θN最好的均值估计。

第三章：

1、描述两类问题的判别函数

分属于 ω1 和ω2 两类的模式可用一个直线方程 d(x)=0 来划分，d(x) = w1x1 + w2x2 + w3 = 0

其中 x1、x2为坐标变量，w1、w2、w3为参数。方程 d(x)=0 叫做判别界面，d(x)叫做判别函

数，d(x)>0，就属于第一类

增广向量形式：x = (x1, x2, …, xn, 1)T 称为增广模式向量，w = (w1, w2, …, wn+1)T 称为增广权

向量。此时，d(x) = wTx

两类问题的判别函数：

2、多类问题的判别方式：

多类问题有三种划分方式

多类情况 1：把 wi看成一类，其他类别看成一类，M类多类问题分成 M个两类问题，因此

共有 M个判别函数，判别函数如下

当存在两个判别函数大于 0或者全小于 0时，出现不确定区域。

多类情况 2：采用每对划分，即 ωi/ωj两分法，此时一个判别界面只能分开两种类别，但不

能把它与其余所有的界面分开。

判别函数为，若对于每一个 j，都有 dij>0,则x分到第 i类。

重要性质：dij=-dji

要分开 M类模式，共需 M(M-1)/2 个判别函数。

不确定区域：若所有 dij(x)，找不到，dij(x)>0 的情况。

多类情况 3（多类情况 2的特例）：这时不存在不确定区域。此时，对 M类情况应有 M个

判别函数。

其中，令 dij=0 就是各个判别界面。

线性可分：模式分类若可用任一个线性函数来划分，则这些模式就称为线性可分的

3、广义线性判别函数：

对于 x*,当x为n维时，fi(x)选用二次多项式函数时，x*为(n+1)(n+2)/2 维。(平方项 n个，

二次项 n(n-1)/2 个，一次项 n个，常数项一个)。当选择 r次多项式时，x*的维度为

分段线性判别函数：分段线性判别函数的判别过程，它比一般的线性判别函数的错误率小，

但又比非线性判别函数简单。

分段函数之最小距离分类：

决策面是两类期望连线的垂直平分面，这样的分类器称为最小距离分类器。分类规则是离那

文档加载中……请稍候！
如果长时间未打开，您也可以点击刷新试试。

下载文档到电脑，查找使用更方便

5.9 玖币 0人已下载

立即下载 VIP免费下载

摘要：

第一章：模式：存在于时间和空间中可观察的物体，如果我们可以区别它们是否相同或是否相似，都可以称之为模式模式的特点：可观察性、可区分性、相似性模式识别定义：利用计算机对物理对象进行分类，在错误概率最小的条件下，使识别的结果尽量与客观物体相符合机器学习：研究如何构造理论、算法和计算机系统，让机器通过从数据中学习后可以进行如下工作：分类和识别事物、推理决策、预测未来等模式识别系统的目标：在特征空间和解释空间之间找到一种映射关系特征空间：从模式得到的对分类有用的度量、属性或基元构成的空间。解释空间：类别机器学习的目标：针对某类任务T，用P衡量性能，根据经验来学习和自我完善，提高性能。假说的两种获得方法...

展开>> 收起<<

某校模式识别与机器学习汇总.pdf

共25页,预览5页

还剩页未读，继续阅读

声明：本站为文档C2C交易模式，即用户上传的文档直接被用户下载，本站只是中间服务平台，本站所有文档下载所得的收益归上传人(含作者)所有。玖贝云文库仅提供信息存储空间，仅对用户上传内容的表现方式做保护处理，对上载内容本身不做任何修改或编辑。若文档所含内容侵犯了您的版权或隐私，请立即通知玖贝云文库，我们立即给予删除！

某校模式识别与机器学习汇总

相关推荐

开通VIP享超值会员特权

作者详情

相关内容

热门标签

举报选择: