用R语言绘制Sigmoid函数——归一化与调参

用R语言绘制Sigmoid函数——归一化与调参

在数据预处理时需要进行归一化的操作，而由于数据本身的性质不同，如何选择适合的归一化方法，以及在运用sigmoid时如果调整系数：

常见归一化函数

Sigmoid函数可视化-R

不同系数下的Sigmoid

常见归一化函数

min-max标准化 (Min-max normalization)

x=x−minmax−min



Sigmoid函数

x=11+e−x



log函数转换

x=log10Xlog10max



z-score 标准化(zero-mean normalization)



μ为所有样本数据的均值，σ为所有样本数据的标准差

参考网站数据分析

Sigmoid函数可视化-R

在R语言中查看标准Sigmoid函数图像，具体如下：

# 定义归一化方程
sigmoid = function(x,a=1){1/exp(-a*x)}
# minmax = function(x){(x-min(x))/(max(x)-min(x))}
# logone = function(x){log(x,10)/log(max(x),10)}
# zscore = function(x){(x-mean(x))/sd(x)}

x <- seq(-5, 5, 0.01)

plot(x,sigmoid(x),col='orange')

不同系数下的Sigmoid

通过改变a的系数，绘制不同系数下的Sigmoid函数。以下是对于[-1000,1000]的数字，进行以-x，-0.01x以及-0.001x的转换情况。

x <- seq(-10000,10000,10)
plot(x,sigmoid(x,1), col = 'coral1')

plot(x,sigmoid(x,0.01), col = 'coral1')

plot(x,sigmoid(x,0.001), col = 'coral1')

plot(x,sigmoid(x,0.0001), col = 'coral1')

参考Continuous Output - The sigmoid function