TensorFlow梯度求解tf.gradients实例
2020-02-13 11:30
2286 查看
我就废话不多说了,直接上代码吧!
import tensorflow as tf w1 = tf.Variable([[1,2]]) w2 = tf.Variable([[3,4]]) res = tf.matmul(w1, [[2],[1]]) grads = tf.gradients(res,[w1]) with tf.Session() as sess: tf.global_variables_initializer().run() print sess.run(res) print sess.run(grads)
输出结果为:
[[4]] [array([[2, 1]], dtype=int32)]
可以这样看res与w1有关,w1的参数设为[a1,a2],则:
2*a1 + a2 = res
所以res对a1,a2求导可得 [[2,1]]为w1对应的梯度信息。
import tensorflow as tf def gradient_clip(gradients, max_gradient_norm): """Clipping gradients of a model.""" clipped_gradients, gradient_norm = tf.clip_by_global_norm( gradients, max_gradient_norm) gradient_norm_summary = [tf.summary.scalar("grad_norm", gradient_norm)] gradient_norm_summary.append( tf.summary.scalar("clipped_gradient", tf.global_norm(clipped_gradients))) return clipped_gradients w1 = tf.Variable([[3.0,2.0]]) # w2 = tf.Variable([[3,4]]) params = tf.trainable_variables() res = tf.matmul(w1, [[3.0],[1.]]) opt = tf.train.GradientDescentOptimizer(1.0) grads = tf.gradients(res,[w1]) clipped_gradients = gradient_clip(grads,2.0) global_step = tf.Variable(0, name='global_step', trainable=False) #update = opt.apply_gradients(zip(clipped_gradients,params), global_step=global_step) with tf.Session() as sess: tf.global_variables_initializer().run() print sess.run(res) print sess.run(grads) print sess.run(clipped_gradients)
以上这篇TensorFlow梯度求解tf.gradients实例就是小编分享给大家的全部内容了,希望能给大家一个参考
您可能感兴趣的文章:
相关文章推荐
- TensorFlow梯度求解tf.gradients
- 利用 tf.gradients 在 TensorFlow 中实现梯度下降
- TensorFlow实例(5.3)--MNIST手写数字进阶算法(卷积神经网络CNN) 之 最大池化tf.nn.max_pool
- Tensorflow 梯度下降实例
- tensorflow-底层梯度tf.AggregationMethod,tf.gradients
- [置顶] windows10 tensorflow(二)原理实战之回归分析,深度学习框架(梯度下降法求解回归参数)
- TensorFLow 不同大小图片的TFrecords存取实例
- tensorflow 池化操作实例 tf.nn.max_pooling
- 【实例讲解】TensorFlow中TFRecord关键点
- TensorFlow学习3:tf.gradients和tf.stop_gradient()
- Tensorflow学习笔记(1)利用函数修饰符@tf.custom_gradients自定义函数梯度
- tensorflow求导和梯度计算实例
- tensorflow实例(8.2)--梯度下降法计算简单线性回归(Simple Regression Analysis)
- TensorFlow - 标准存储格式TFRecord
- tensorflow-gpu安装好后,import tensorflow as tf不报错,但是tf无法使用
- python文本挖掘(二)——实例1(TF-IDF算法)
- TensorFlow的reshape操作 tf.reshape
- 梯度上升算法与梯度下降算法求解回归系数怎么理解?
- 从训练好的tensorflow模型中打印训练变量实例
- tensorflow入门:tfrecord 和tf.data.TFRecordDataset