単純なニューラルネットワークのフィッシャー情報行列
- システム情報科学府 情報理工学専攻
深層学習は現在様々な分野で著しい功績を上げているAIの根幹をなす技術である.しかし深層学習が上手くいく理由は未だ解明されていない.フィッシャー情報行列は,深層学習の性能の指標である汎化誤差と深い関係がある.本研究では隠れ層一層のニューラルネットワークを対象に,活性化関数としてReLUを用いた場合とソフトプラス関数を用いた場合についてフィッシャー情報行列の固有値分解を導くことを目指し,ReLUを用い [...]
研究キーワード
- Machine Learning
- neural network
- deep learning
- Fisher information
- AI