文章目录
- 一、神经网络基础
- 1.得分函数 f(xi;W,b)
- 1)从输入到输出的映射
- 2)数学表示
- 3)计算方法
- 4)多组权重参数构成了决策边界
- 2.损失函数 L
- 3.前向传播
- 4.Softmax分类器
- 梯度下降
- 2.反向传播
一、神经网络基础
回归任务:最终要预测一个值。由得分算损失。
分类任务:由概率算损失。
前向传播:有了x和W,得到损失L(loss)的过程。
返向传播:
神经网络目标:去更新W,找出什么样的W是最合适的。损失很高,说明W不好。
1.得分函数 f(xi;W,b)
1)从输入到输出的映射

2)数学表示

3)计算方法

这里分成了三个类
W:权重系数矩阵
xi:输入(4个像素点)
b:偏置参数矩阵


4)多组权重参数构成了决策边界

2.损失函数 L




3.前向传播

4.Softmax分类器


梯度下降




2.反向传播
































![[Leetcode] 0026. 删除有序数组中的重复项](https://img-blog.csdnimg.cn/img_convert/67b14865db339149200dfad6fc2e0f76.png)