2022机器学习实战课内容笔记 – Lesson 1、机器学习基本概念与建模流程

还不是很会用ipad写笔记,没买类纸膜,字迹有点拉跨,请见谅

  • 本文的内容是以线性回归模型为例介绍连续变量的预测,并介绍最小二乘法求损失函数的最小值,以及损失函数与评价指标

作为本节的重点学习对象,这里我们将机器学习的一般建模过程作为一个整体进行梳理:

  • Step 1:提出基本模型
    如本节中,我们尝试利用简单线性回归去捕捉一个简单数据集中的基本数据规律,这里的y%3Dwx%2Bb就是我们所提出的基本模型。当然,在后续的学习过程中,我们还将接触诸多不同种类的机器学习模型,而不同的模型也有对应的适用场景。值得注意的是,在提出模型时,我们往往会预设好一些影响模型结构或者实际判别性能的参数,如简单线性回归中的w和b;
  • Step 2:确定损失函数
  • 接下来,围绕建模目标构建评估指标,并围绕评估指标设置损失函数。当然,在这个例子中,模型评价指标和损失函数的建模过程是一样的。这里要反复提醒,损失函数不是模型,而是由模型参数组成的函数。
  • Step 3:根据损失函数性质,选择优化方法
    如前所述,损失函数不仅承载了我们优化的目标(使预测值和真实值尽可能接近),而且是一个包含模型参数的函数。当我们围绕目标函数求解最小值时,模型参数也就完成了。解决方案。当然,这个过程本质上是一个数学优化过程,求解目标函数的最小值本质上是一个优化问题。为了解决这个问题,我们需要灵活地应用一些优化方法。当然,在具体优化方法的选择上,函数本身的性质是一个重要因素,即不同类型和属性的函数会影响优化方法的选择。在简单线性回归中,由于目标函数是凸函数,我们根据凸函数的性质选择最小二乘法作为损失函数的优化算法。但实际上,简单线性回归的损失函数实际上是所有机器学习模型中最简单的一种损失函数。后面我们会介绍其他模型更复杂的损失函数以及相应的损失函数求解方法。
  • Step 4.利用优化算法进行损失函数求解
    确定优化方法后,我们可以使用优化方法求解损失函数。当然,在大多数情况下,我们是在求解损失函数的最小值。随着损失函数最小值的确定,我们也找到了一组损失函数的自变量对应的值,而打乱后的自变量的值也是模型的最优参数。在这个例子中,通过优化方法求解损失函数的过程还是很简单的。当我们跟进更复杂的损失函数并应用更复杂的优化算法来解决问题时,我们会发现损失函数的求解过程只是建模的主题。

截止目前,我们并未在数学理论和代码上展开讨论,此处我们也是希望能够在数学理论和代码难度不设门槛的情况下,先行介绍关于机器学习基础理论以及机器学习的一般建模流程。在后续的课程中,数学理论和代码难度都将逐渐提升。类似于最小二乘法严谨数学推导、手动实现复杂数据集上的线性回归建模、其他常用优化算法、调动Scikit-Learn完成相关建模工作等,都将在Lesson 2中进行详细讨论。
2022机器学习实战课内容笔记 - Lesson 1、机器学习基本概念与建模流程
2022机器学习实战课内容笔记 - Lesson 1、机器学习基本概念与建模流程
2022机器学习实战课内容笔记 - Lesson 1、机器学习基本概念与建模流程
2022机器学习实战课内容笔记 - Lesson 1、机器学习基本概念与建模流程
2022机器学习实战课内容笔记 - Lesson 1、机器学习基本概念与建模流程

版权声明:本文为博主大米2H原创文章,版权归属原作者,如果侵权,请联系我们删除!

原文链接:https://blog.csdn.net/m0_57446978/article/details/123078805

共计人评分,平均

到目前为止还没有投票!成为第一位评论此文章。

(0)
扎眼的阳光的头像扎眼的阳光普通用户
上一篇 2022年2月23日 下午3:16
下一篇 2022年2月23日 下午3:31

相关推荐