Torch.nn模块学习-激活函数

Torch.nn模块学习-激活函数

Pytoch中提供了多种激活函数，也包含在nn模块中，激活函数类和功能，常用的激活函数对应的类和功能如下：

绘制激活函数

import torchimport numpy as npfrom torch import nnimport matplotlib.pyplot as pltx = torch.linspace(-6, 6, 100)sigmoid = nn.Sigmoid()ysigmoid = sigmoid(x)tanh = nn.Tanh()ytanh = tanh(x)relu = nn.ReLU()yrelu = relu(x)softplus = nn.Softplus()ysoftplus = softplus(x)plt.figure(figsize=(14, 3))plt.subplot(1, 4, 1)plt.plot(x.data.numpy(), ysigmoid.data.numpy(), "r-")plt.title("sigmoid")plt.grid()plt.subplot(1, 4, 2)plt.plot(x.data.numpy(), ytanh.data.numpy(), "r-")plt.title("tanh")plt.grid()plt.subplot(1, 4, 3)plt.plot(x.data.numpy(), yrelu.data.numpy(), "r-")plt.title("relu")plt.grid()plt.subplot(1, 4, 4)plt.plot(x.data.numpy(), ysoftplus.data.numpy(), "r-")plt.title("softplus")plt.grid()plt.show()

版权声明：本文内容由网络用户投稿，版权归原作者所有，本站不拥有其著作权，亦不承担相应法律责任。如果您发现本站中有涉嫌抄袭或描述失实的内容，请联系我们jiasou666@gmail.com 处理，核实后本网站将在24小时内删除侵权内容。