tensorflow 实现自定义梯度反向传播代码
2020-02-13 11:45
1616 查看
以sign函数为例:
sign函数可以对数值进行二值化,但在梯度反向传播是不好处理,一般采用一个近似函数的梯度作为代替,如上图的Htanh。在[-1,1]直接梯度为1,其他为0。
#使用修饰器,建立梯度反向传播函数。其中op.input包含输入值、输出值,grad包含上层传来的梯度 @tf.RegisterGradient("QuantizeGrad") def sign_grad(op, grad): input = op.inputs[0] cond = (input>=-1)&(input<=1) zeros = tf.zeros_like(grad) return tf.where(cond, grad, zeros) #使用with上下文管理器覆盖原始的sign梯度函数 def binary(input): x = input with tf.get_default_graph().gradient_override_map({"Sign":'QuantizeGrad'}): x = tf.sign(x) return x #使用 x = binary(x)
以上这篇tensorflow 实现自定义梯度反向传播代码就是小编分享给大家的全部内容了,希望能给大家一个参考
您可能感兴趣的文章:
相关文章推荐
- Python神经网络代码实现流程(三):反向传播与梯度下降
- TensorFlow 机器学实战指南示例代码之 TensorFlow 实现反向传播(一)
- 实现属于自己的TensorFlow(二) - 梯度计算与反向传播
- TensorFlow 机器学实战指南示例代码之 TensorFlow 实现反向传播(二)
- TensorFlow实战系列3--实现反向传播
- 感知机相关;利用tensorflow等工具定义简单的几层网络(激活函数sigmoid),递归使用链式法则来实现反向传播。
- TensorFlow实现反向传播
- 神经网络中的反向传播法算法推导及matlab代码实现
- TensorFlow如何实现反向传播
- 卷积神经网络的前向传播、反向传播及其代码实现
- 只用TensorFlow的反向传播实现的RNN
- 数十种TensorFlow实现案例汇集:代码+笔记
- jQueryUI如何自定义组件实现代码
- 实现一个反向传播人工神经网络
- 【深度学习】梯度下降和反向传播
- 基于TensorFlow中自定义梯度的2种方式
- Java自定义注解代码实现与扩展
- Flutter自定义实现神奇动效的卡片切换视图的示例代码
- Tensorflow学习笔记--RNN精要及代码实现
- Android实现自定义Crash handler记录崩溃信息实例代码