【DeepLearning】DIGITSで一般画像認識させているとGoogLeNetが遷移を見せる話

shi3zさんの以前の日記に書いてあった

DeepLearningで一定時間学習を継続していると突然

正答率が上がる現象が発生するかDIGITSで検証しました。

d.hatena.ne.jp

 

使用したモデルはshi3zさんの画像に習い

GoogLeNetでデータセットはcifar100を使用しました。

環境:

OS Ubuntu14.04

GPU Geforce GTX960 4GB

 

13hほどかけて100エポック回した結果がこちら

 

f:id:manjirou99:20160414000406p:plain

うむ50エポックくらいで確かにコツをつかんだかのように

突然正答率が上がっています。しかしながら以降はまるで正答率が上がらなくなってしまっています。

このモデルとデータセットを使用した性能の限界に突入するとき

未知なる力が発動して覚醒したのでしょうか?

 

この現象は何が原因なのか?

これ以降の性能を引き出す事はできないのか?

いろいろと疑問があるので次は別モデルで同じデータセットを使用し検証してみましょう。

モデルの構造に依存する問題であれば何か変化があるはずです。

 

 

しかしshi3zさんの日記の画像では100エポック目くらいで

この現象が確認されていますが

私の場合は50エポック目で発生したのはなんの違いが原因ですかね?

私はパラメーターはデフォルトから動かしていないので

何かいじってたのかもしれません