最小二乘法 与 均方误差的区别(总结)
一、总结
一句话总结:
基于均方误差最小化来进行模型求解的方法称为“最小二乘法”。——周志华《机器学习》
最小二乘法作为损失函数:没有除以总样本数m;均方误差MSE):除以总样本数m
二、最小二乘法 与 均方误差的区别
博客对应课程的视频位置:
答案一:
最小二乘(LS)问题是这样一类优化问题,目标函数是若干项的平方和,每一项具有形式,具体形式如下:
minimize (式1)
但是,我们在实际优化问题中经常看到的是另一种表示形式: (式2)
其中是真值,
是估计值,式1和式2是一样的,只是用的符号不同,式1中的
对应式2中的
,即优化中要求的变量。
————————————————————————
作为过渡概念,LS的一种更复杂也更灵活的变形:
加权最小二乘 根据实际问题考虑每个求和项的重要程度,即加权值w,如下:
————————————————————————
均方误差(MSE)是一种加权最小二乘,它的权值是概率
===========================================================
答案二:
基于均方误差最小化来进行模型求解的方法称为“最小二乘法”。——周志华《机器学习》
===========================================================
最小二乘法作为损失函数:没有除以总样本数m
均方误差MSE):除以总样本数m
参考:
https://www.zhihu.com/question/27200164
https://www.icode9.com/content-4-638216.html
我的旨在学过的东西不再忘记(主要使用艾宾浩斯遗忘曲线算法及其它智能学习复习算法)的偏公益性质的完全免费的编程视频学习网站:
fanrenyi.com;有各种前端、后端、算法、大数据、人工智能等课程。
版权申明:欢迎转载,但请注明出处
一些博文中有一些参考内容因时间久远找不到来源了没有注明,如果侵权请联系我删除。
博主25岁,前端后端算法大数据人工智能都有兴趣。
大家有啥都可以加博主联系方式(qq404006308,微信fan404006308)互相交流。工作、生活、心境,可以互相启迪。
聊技术,交朋友,修心境,qq404006308,微信fan404006308
26岁,真心找女朋友,非诚勿扰,微信fan404006308,qq404006308
人工智能群:939687837
作者相关推荐
#fry_added_part .inspiration_content{
//max-height: 120px;
overflow: auto;
margin: 20px 0;
}
#fry_added_part .fry_inspiration .simple a{
margin-right: 25px;
}
感悟总结
其它重要感悟总结