AI-MASTER WIKI

パーセプトロン

ディープラーニングとは

  1. ディープラーニングとニューラルネットワーク
  2. パーセプトロン
  3. ニューラルネットワーク
  4. ディープラーニング

パーセプトロン

パーセプトロンとは複数信号を受け取り、一つの信号を出力するアルゴリズムです。このアルゴリズムはニューラルネットワークを学ぶ上で、非常に重要な考え方になります。

Fig. 2.1.png
Fig. 2.1 パーセプトロン
 
 

Fig. 2.1はパーセプトロンを図示したもので、xは入力、wは重み、yは出力を表しています。入力xそれぞれに重みwを乗算し、その総和がある値(閾値)を超えた場合にのみ出力yが「1」となり、それ以外の場合は「0」となります。これは以下のような数式で表すことができます。

 
数式2.1.png
 
 

ここで、θは閾値を表します。1が出力されることを「発火」といいます。各パラメータはそれぞれ機能を持っていて、重みwは各入力信号の重要度をコントロールし、閾値θは「発火」のしやすさを調整する機能があります。数式(2.1)をみれば閾値θが大きければ発火しづらく、小さければ発火しやすいことは容易に想像できると思います。

このパーセプトロンを拡張することでニューラルネットワークを表現することができます。本書籍2.2以降の節ではAND ゲートOR ゲートといったような論理回路をパーセプトロンで表現することで、パーセプトロンの限界と多層化による表現の拡張について説明しています。

ここでは、パーセプトロンについてこれ以上掘り下げませんので、単層のパーセプトロンでは表現に限界があるものの、層を重ねることによってより複雑な表現も可能であるということだけ覚えておいてください。

なぜパーセプトロンを拡張することでニューラルネットワークを表現することができるのか詳しく知りたい方はこちらを参照してください。

パーセプトロンからニューラルネットワークへ

バイアスの導入

今後の説明をスムーズに進めるために、数式(2.1)の閾値θ を-b で置換して、以下のように修正します。

 
数式2.2.png
 

そして、この新しいパラメータb を「バイアス」 と呼びます。バイアスb も閾値θ と同様に発火のしやすさを調整する機能を持っています。

 

バイアスb を考慮してパーセプトロンを図示すると、

Fig. 2.2.png
Fig. 2.2 バイアスを入力に加えたパーセプトロン
 
 

のようになります。バイアスは入力信号が1 で重みがb の信号と考えることができるわけです。

活性化関数

ここで、数式(2.2)を以下のように書き換えます。


添付ファイル: file数式2.2.png 2件 [詳細] fileFig. 2.2.png 1件 [詳細] file数式2.1.png 43件 [詳細] fileFig. 2.1.png 40件 [詳細]