怎样用matlab计算不可微分函数的梯度呢?
发布网友
发布时间:2024-06-01 20:30
我来回答
共1个回答
热心网友
时间:2024-06-22 01:31
具体步骤如下:
1、不可微函数的梯度可以通过使用次梯度来计算。
2、次梯度是一个在原点附近的向量,其方向与原函数在原点处的方向相同,但大小比原函数在原点处的导数小一个常数倍。
3、对于ReLU函数,当x>0时,其导数为1;当x4、则ReLU函数在x=0的次梯度是c∈[0.1],这里是次梯度有多个,可以取0.1之间的任意值。工程上为了方便取c=0即可。