PyTorch中常用的激活函数的方法示例
2019-08-20 10:53
281 查看
神经网络只是由两个或多个线性网络层叠加,并不能学到新的东西,简单地堆叠网络层,不经过非线性激活函数激活,学到的仍然是线性关系。
但是加入激活函数可以学到非线性的关系,就具有更强的能力去进行特征提取。
构造数据
import torch import torch.nn.functional as F from torch.autograd import Variable import matplotlib.pyplot as plt x = torch.linspace(-5, 5, 200) # 构造一段连续的数据 x = Variable(x) # 转换成张量 x_np = x.data.numpy() # 换成 numpy array, 出图时用
Relu
表达式:
代码:
y_relu = F.relu(x).data.numpy() plt.plot(x_np, y_relu, c='red', label='relu') plt.ylim((-1, 5)) plt.legend(loc='best') plt.show()
形状如图:
Sigmoid
表达式:
代码:
y_sigmoid = F.sigmoid(x).data.numpy() plt.plot(x_np, y_sigmoid, c='red', label='sigmoid') plt.ylim((-0.2, 1.2)) plt.legend(loc='best') plt.show()
形状如图:
Tanh
表达式:
代码:
y_tanh = F.tanh(x).data.numpy() plt.plot(x_np, y_tanh, c='red', label='tanh') plt.ylim((-1.2, 1.2)) plt.legend(loc='best') plt.show()
形状如图:
Softplus
表达式:
代码:
y_softplus = F.softplus(x).data.numpy() plt.plot(x_np, y_softplus, c='red', label='softplus') plt.ylim((-0.2, 6)) plt.legend(loc='best') plt.show()
形状如图:
以上就是本文的全部内容,希望对大家的学习有所帮助
您可能感兴趣的文章:
相关文章推荐
- fleaphp常用函数findAll方法的使用和示例
- Python Random函数常用方法及示例
- jquery常用特效方法使用示例
- c#.net常用函数和方法集
- os、os.path 模块中关于文件、目录常用的函数使用方法
- vbs操作txt文本文件常用方法与函数代码
- 汇总c#常用函数和方法集
- Visual C#常用函数和方法集汇总 (收藏)
- 在网页中JS函数自动执行常用三种方法
- Java程序员从笨鸟到菜鸟之(八十七)跟我学jquery(三)jquery动态创建元素和常用函数示例
- PHP操作Redis数据库常用方法示例
- 汇总c#.net常用函数和方法集
- vc++常用函数方法
- [python] 类常用的内置方法和函数
- ASP.NET编程技术-c#.net常用函数和方法集
- javascript常用方法函数收集
- c#.net常用的小函数和方法集
- C语言的常用库函数使用方法分析及用途(9)
- C#常用函数及方法集
- vc++常用函数方法