教科書で学ぶニューラルネットワークと深層学習
定義学習に使った訓練データに合わせすぎた結果、まだ見ていない未知のデータに対する予測の精度が下がる状態を過学習(オーバーフィッティング)という。
解説モデルが訓練データの偶然の癖や雑音まで覚え込むと、新しいデータに通用する一般的な規則(汎化の力)が弱くなる。訓練データでは高い精度なのに、学習に使っていないデータで精度が落ちることで気づける。抑える方法には、例えば訓練データを増やす、モデルを単純にする、といったものがある。
たとえ一人の体に合わせすぎて仕立てた服が、本人にはぴったりでも、ほかの人にはまったく合わないようなもの。
記憶フック「過」は度を越すこと。学習が足りない失敗ではなく、やりすぎによる失敗だと字が教えてくれる。