深度学习入门基于python的理论与实现 4章gradient_simplenet.py 完全解析
2018-10-31 00:16
465 查看
# coding: utf-8 #深度学习入门基于python的理论与实现 4章gradient_simplenet.py 完全解析 import sys, os sys.path.append(os.pardir) # 为了导入父目录中的文件而进行的设定 import numpy as np from common.functions import softmax, cross_entropy_error from common.gradient import numerical_gradient class simpleNet: def __init__(self): self.W = np.random.randn(2,3)#用高斯分布进行初始化 维度2*3 def predict(self, x): return np.dot(x, self.W)#点积 def loss(self, x, t): z = self.predict(x)#x点积W y = softmax(z)#将多个神经元的输出,映射到(0,1)区间内 loss = cross_entropy_error(y, t)#交叉熵代价函数 y:输出结果。t:监督数据 return loss x = np.array([0.6, 0.9])#输入数据 t = np.array([0, 0, 1])#正确结果,监督数据 net = simpleNet() f = lambda w: net.loss(x, t)#匿名函数输入w输出net.loss(x, t) dW = numerical_gradient(f, net.W)#求函数梯度(f,net.W) print(dW) #函数:交叉熵 对权重W求偏导数即求正确解和输出参数最小值
[ 0.46320449 0.04464085 -0.50784534]
[ 0.69480673 0.06696128 -0.76176801]
相关文章推荐
- 深度学习入门基于python的理论与实现 第四章two_layer_net.py完全解析
- 《深度学习入门:基于Python的理论与实现》高清中文版PDF+源代码
- 《深度学习入门:基于Python的理论与实现》高清中文版PDF+源代码
- 深度学习笔记-第2章-《深度学习入门——基于Python的理论与实现》
- 深度学习笔记-第3章-《深度学习入门——基于Python的理论与实现》的代码解说
- 深度学习笔记-第3章-《深度学习入门——基于Python的理论与实现》
- 深度学习笔记-第4章-《深度学习入门——基于Python的理论与实现》
- 深度学习入门基础 ----- Python快速教程 、深度学习理论基础、Tensorflow基础
- ufldl 深度学习入门 第一发:基于BP网络实现稀疏自编码器
- 深度学习Deeplearning4j 入门实战(5):基于多层感知机的Mnist压缩以及在Spark实现
- 深度学习入门---PCA,白化 Python实现
- 【神经网络与深度学习】【python开发】caffe-windows使能python接口使用draw_net.py绘制网络结构图过程
- 神经网络与深度学习 使用Python实现基于梯度下降算法的神经网络和自制仿MNIST数据集的手写数字分类可视化程序 web版本
- 深度学习Deeplearning4j 入门实战(6):基于LSTM的文本情感识别及其Spark实现
- 神经网络与深度学习 1.6 使用Python实现基于梯度下降算法的神经网络和MNIST数据集的手写数字分类程序
- 深度学习入门---softmax回归 Python实现
- 基于Windows,Python,Theano的深度学习框架Keras的配置
- 深度学习(一)autoencoder的Python实现(2)
- [pytorch] 深度学习分割网络U-net的pytorch模型实现
- 11.python并发入门(part8 基于线程队列实现生产者消费者模型)