方向导数和梯度的区别方向导数和梯度的区别

先有梯度,才有方向导数

方向导数和梯度从数学形式就不同,一个是向量(梯度),一个是值(方向导数)。

梯度是向量

梯度是一阶导+向量化
在这里插入图片描述
这个是梯度

在这里插入图片描述

方向导数是值,是不同方向上,函数增加的单位值,即表示不同方向上函数增加的快慢程度

这里是引用
gradf(x,y) 与 e 的点积是方向导数
向量与向量的点积得到的是值
gradf(x,y) 是梯度向量,e是单位方向向量

在这里插入图片描述

实例

在这里插入图片描述
从上诉的例题很容易看出来,梯度是向量在这里插入图片描述

在这里插入图片描述

而 方向导数是值 在这里插入图片描述

在这里插入图片描述

还有一般都会说,梯度是函数变换最快的方向,其实并不是很准确,梯度除以梯度的模才是方向

在这里插入图片描述


在深度学习的优化策略中, 只需要考虑梯度即可

Logo

华为开发者空间,是为全球开发者打造的专属开发空间,汇聚了华为优质开发资源及工具,致力于让每一位开发者拥有一台云主机,基于华为根生态开发、创新。

更多推荐