学习分类 2-3 感知机

2022-11-08 13:41:41 浏览数 (1)

感知机

要如何求出权重向量呢?基本做法和回归时相同,将权重向量用作参数,创建更新表达式来更新参数。这就需要一个被称为感知机的模型。

感知机是接受多个输入后将每个值与各自的权重相乘,最后输出总和的模型。数据包含三个特征的感知机模型如下所示。

感知机是非常简单的模型,基本不会应用到实际的问题当中,但是它是神经网络和深度学习模型的基础模型。

下表示收集到的六个训练数据。

我们将权重向量与数据的特征向量内积大于 0 的数据返回值 1,而将内积小于 0 的数据返回值 -1。我们可以将其定义为一个新的函数,这个函数被称为 判别函数

f_{w}(x) = begin{cases} 1 (wcdot x ge 0)\ -1 (wcdot x < 0) end{cases}

我们用内积的第二种定义方式来看看这些内积大于 0 或者小于 0 的向量。

wcdot x = |w|cdot|x| cdot cos theta

两个向量的模长必定为正数,因此要判断内积的正负,只需要观察两个向量之间夹角的余弦值即可。余弦函数图像如下所示。

知道了所有与权重向量之间的内积为负的向量区域,内积为正的向量区域刚好与内积为负的向量区域相反。

References:

1.《白话机器学习的数学》

0 人点赞