损失函数(loss)

概述

损失函数,loss function,也称误差函数,error function

是 预估值 与 真实值 的误差大小

作用:衡量模型模型预测的好坏

损失函数可以很好得反映 模型 与 实际数据 的差距,理解损失函数能够更好得对后续优化工具(梯度下降等)进行分析与理解。

很多时候遇到复杂的问题,最难的是如何写出损失函数

损失函数有:

均方误差(mse)

mse,Mean Square Error,也称为 L2损失

是 真实值 与 预测值 的 差值 的 平方 然后求和平均。

用于处理 线性回归 问题

公式

说明:
y_true1….y_truem:真实的孩子身高

y1,y2,y3…ym:根据公式算出的结果

将其代入到上面公式,如下:

另一种写法

有的文章写法如下:

是为了方便求导

特点

  1. 结果越接近0,说明预测值与真实值的误差越小
  2. 可导,只有1个最小值
  3. 更容易计算梯度

y1,y2,y3,y4的运算结果:

随机给出的 权重 和 偏置量:y=0.5*x+0.9,并代入 父母平均身高,算出的 孩子身高

父母平均身高 孩子身高 y
样本1 1.67 1.7 y1=1.735
样本2 1.68 1.8 y2=1.74
样本3 1.69 1.72 y3=1.745
样本4 1.7 1.73 y4=1.75

均方误差的运算结果:

将 孩子身高 和 y ,代入公式,计算如下:

(1.735-1.7)^2+(1.74-1.8)^2+(1.745-1.72)^2+(1.75-1.73)^2 / 4

keras

tf.keras.losses.MSE

或者
字符串"mse"

平均绝对误差(mae)

mae,Mean Absolute Error,绝对误差的平均值。

可以更好地反映预测值误差的实际情况。

keras

tf.keras.losses.MAE

或者
字符串"mae"


原文出处:/show_1EF3qTvZH2yB.html