シグモイド関数

【定義】シグモイド関数[sigmoid function]

\[sig(x):=\frac{1}{1+e^{-x}}\]と表される実関数をシグモイド関数[sigmoid function]といいます.

シグモイド関数[sigmoid function]は,

という性質を持ちます.

シグモイド関数[sigmoid function]は,1980年代に,Rumalhart,Hinton,Williamsによって提案された誤差逆伝播法[backpropagation method]において微分可能な活性化関数[activation function]としてよく用いられます.

双曲線正接関数[hyperbolic function]\[tanh x=\frac{e^{x}-e^{-x}}{e^{x}+e^{-x}}\]を用いると,シグモイド関数[sigmoid function]は,\[sig(x)=\frac{tanh(x/2)+1}{2}\]とも表すことが出来ます.

なお,累積正規分布関数[cumulative normal distribution function],死亡率に関するゴンペルツ関数[Gompertz function],グーデルマン関数[Gudermannian function]などシグモイド関数と似た性質を持つ $\varsigma$ 型の関数はシグモイド曲線と総称されます.

Mathematics is the language with which God has written the universe.





















マルコフ連鎖 gnuplot 可算無限集合 基本近傍系 型射 ベルヌーイ分布とポアソン分布