ニューラルネットワークとディープラーニング-5

ニューラルネットワークとディープラーニング

amazon kindle版を出版しました。

---

隠れ層2の場合

3.3　隠れ層2の場合
　ディープラーニングですので、隠れ層数を増加させて考える。図3.3.1のように隠れ層を2層にした場合についてirisデータセットを学習させる。

図3.3.1　隠れ層2層のニューラルネットワークの構造

(3)学習係数0.1の場合
　隠れ層の2層として、学習回数10万回、初期値を10回変更して正解率の平均値を表示している。図3.3.4に示すように隠れ層のノード数が10に近づくほど正解率が高いことがわかる。また、学習係数が前節より高いため、正解率100％の箇所がより広がっていることがわかります。今回の条件では、学習係数が高く、ノード数も大きい方が良い結果が得られている。

(a)学習用のデータ（学習係数0.1）

(b)評価用のデータ（学習係数0.1）
図3.3.4　隠れ層2層、学習係数0.1の場合

(a)学習の経過（誤差）

(b)学習の経過（正解率）
図3.3.5　隠れ層2層の場合の学習の経過

　次に、図3.3.5(a)、(b)に隠れ層1のノード数10、隠れ層2のノード数10、学習係数0.1のときの学習の経過を示す。学習用のデータは学習が進むごとに、おおむね減少している。評価用データの誤差は大きく振動しながら誤差が減少していることが分かる。この誤差が大きいときは正解率も減少しており、局所解に陥っているのではないかと推測できる。学習係数が0.1と大きいので、いったん局所解に入ってもそこから抜け出すことができている。
　学習回数が約1000回を超えると、正解率は学習用データも評価用のデータも正解率が100％となり、隠れ層2層でもirisデータセットを学習させることが可能であることがわかる。