2024秋季-机器学习-第三章-线性模型

VIP免费
2025-01-13 3 0 2.68MB 78 页 5.9玖币
侵权投诉
机器学习
第三章 线性模型
北京航空航天大学 计算机学院
《机器学习》课程组
2024年秋季学期
Autumn 2024
1
3.1 什么是线性回归
•“回归”的起源
•线性回归的概念
2
“回归”起源
⚫研究父母身高与子女身高之间关系
若父母身高高于平均身高，则其子女身高倾向于
倒退生长，即会比其父母身高矮一些而更接近于
大众平均身高。
若父母身高小于平均身高，则其子女身高倾向于
向上生长，即会更接近于大众平均身高。
【英国生物学家Francis Galton】
此现象被Galton称之为回归现象，即Regression
1822.2.16-1911.1.17
3
“回归”起源
⚫父母身高与子女身高之间关系
后代的身高倾向于
“回归”到平均值 平均身高
4
回归的概念
⚫回归问题
➢回归是监督学习问题中的一种，其目标是将输入向量分配至由一个或多个连续变
量组成的输出。*
➢数学表示为给定输入数据和一个连续输出，回归任务的目标是找到一个函数
，使得能够尽可能准确地预测的值。
*Christopher M. Bishop,
Pattern Recognition and Machine Learning
5
回归举例-房价估计
⚫对房屋价格进行估计，在一定程度上影响着
社会经济的发展。房屋售价与多因素有关，
现统计了一些房屋的售价和对应的影响因素
信息（房屋的面积、卧室数量、层数房龄
等）。
⚫问：如何利用已知的数据进行分析，实现对
房屋价格的估计。
面积
(m2
)
卧室数量
层数
房龄
(年
)
价格
(万元
)
210.4 5 1 45 460
141.6 3 2 40 232
153.4 3 2 30 315
85.2 2 1 36 178
… … … … …
面积
(m2
)
卧室数量
层数
房龄
(年
)
价格
(万元
)
150 3 2 30 ?
测试样本
6
回归举例-房价估计
面积(m2)卧室数量 层数 房龄(年)价格(万元)
210.4 5 1 45 460
141.6 3 2 40 232
153.4 3 2 30 315
85.2 2 1 36 178
… … … … …
训
练
样
本
连续变量
: 训练样本个数
: 输入变量/“特征”
: 输出变量/目标变量
监督学习
7
⚫问题建模
训练集
回归算法
变量(特征) 计算
➢假设函数 为输入的线性函数
➢写成向量形式
线性回归的概念
增加一维
表示截距项，
转为齐次形式
⚫线性回归
如何表示 ?
 


 8
线性回归的概念
基函数
最简单的情况下：
⚫多项式基函数 ⚫高斯基函数 ⚫Sigmoid基函数
 

 
 
   
 
 

9
3.2 线性回归的求解
•标准方程组
•梯度下降法
•最大似然估计
•贝叶斯估计
10
摘要：

机器学习第三章线性模型北京航空航天大学计算机学院《机器学习》课程组2024年秋季学期Autumn202413.1什么是线性回归•“回归”的起源•线性回归的概念2“回归”起源⚫研究父母身高与子女身高之间关系若父母身高高于平均身高，则其子女身高倾向于倒退生长，即会比其父母身高矮一些而更接近于大众平均身高。若父母身高小于平均身高，则其子女身高倾向于向上生长，即会更接近于大众平均身高。【英国生物学家FrancisGalton】此现象被Galton称之为回归现象，即Regression1822.2.16-1911.1.173“回归”起源⚫父母身高与子女身高之间关系后代的身高倾向于“回归”到平均值平均身高...

展开>> 收起<<
2024秋季-机器学习-第三章-线性模型.pdf

共78页,预览16页

还剩页未读， 继续阅读

声明：本站为文档C2C交易模式，即用户上传的文档直接被用户下载，本站只是中间服务平台，本站所有文档下载所得的收益归上传人(含作者)所有。玖贝云文库仅提供信息存储空间，仅对用户上传内容的表现方式做保护处理，对上载内容本身不做任何修改或编辑。若文档所含内容侵犯了您的版权或隐私，请立即通知玖贝云文库，我们立即给予删除！

相关推荐

更多
立即下载
分类：计算机 价格：5.9玖币 属性：78 页 大小：2.68MB 格式：PDF 时间：2025-01-13

开通VIP享超值会员特权

  • 多端同步记录
  • 高速下载文档
  • 免费文档工具
  • 分享文档赚钱
  • 每日登录抽奖
  • 优质衍生服务

作者详情

相关内容

更多

热门标签

人际关系 动力学连接体 力的合成 配电装置 高考理综 全宋诗作者索引 公务员考试
/ 78
评分 收藏
分享
立即下载 VIP免费下载
客服
关注