教科書で学ぶニューラルネットワークと深層学習
定義出力と正解の誤差を出力層の側から入力層の側へ逆向きにたどり、各つながりの重みを直していく学習の方法をバックプロパゲーション（誤差逆伝播法）という。
解説計算そのものは入力層から出力層へ前向きに進むが、直すための情報は後ろから前へ戻っていく。どのつながりがずれにどれだけ影響したかを層ごとに割り出し、影響の大きい重みほど大きく直す。この手順を多くのデータで繰り返すことで、出力が正解に近づいていく。
たとえ料理の味見をして塩辛すぎたら、最後に入れた調味料から順にさかのぼって、どれをどれだけ減らすかを決め直すようなもの。
記憶フックバックは「後ろへ」、プロパゲーションは「伝わっていくこと」。ずれが後ろへ伝わる、と名前を分解すれば向きを間違えない。