本ユニットでは、人間の脳神経を模した学習モデルであるニューラルネットワークの仕組み(学習法のバックプロパゲーション・出力を決める活性関数・落とし穴である過学習)と、それを多層化して飛躍的に性能を高めたディープラーニング(深層学習)を学びます。AI・機械学習分野の中核で、試験でも頻出の重要テーマです。
人間の脳神経の仕組みをまねた、層状につながる学習モデル。
ニューラルネットワークは、脳の神経細胞(ニューロン)のつながりをまねて作られた数理モデルです。入力層・中間層(隠れ層)・出力層という層が結びつき、各つながりの「重み」を調整しながらデータの特徴を学習します。 大量のデータを与えて重みを少しずつ更新することで、画像の分類や予測などができるようになります。試験では、AI・機械学習の代表的手法であること、脳神経を模した仕組みであること、そしてこれを多層化したものがディープラーニングである、という関係が問われます。
たとえたくさんの人がリレー方式で情報を渡し合い、正解に近づくよう各人の「伝え方の強さ」を少しずつ調整していくチームのようなもの。
記憶フックニューラルネットワークといえば脳神経を模した層状の学習モデル
出力の誤差を逆向きに伝え、重みを調整する代表的な学習法。
バックプロパゲーション(誤差逆伝播法)は、ニューラルネットワークを学習させる代表的なアルゴリズムです。出力した答えと正解との「誤差」を、出力層から入力層へと逆向きにたどりながら、各つながりの重みを少しずつ修正していきます。 これを大量のデータで何度も繰り返すことで、ネットワークの予測精度が上がっていきます。試験では、ニューラルネットワークの学習に使われる手法であること、名前のとおり誤差を「後ろ向き(逆方向)」に伝えて重みを調整する点が問われます。
たとえテストの採点結果を見て、どこで間違えたかを逆にたどり、原因となった勉強のやり方を一つずつ直していくようなものです。
記憶フックバックプロパゲーションといえば誤差を逆向きに伝えて重みを調整
ニューロンが受け取った値を、次へ渡す出力に変換する関数。
活性関数は、ニューラルネットワークの各ニューロンで、入力をまとめた値を「どんな出力にして次へ渡すか」を決める関数です。これによってネットワークは単純な比例関係を超えた、複雑なパターンを表現できるようになります。 代表例にはシグモイド関数やReLU(ランプ関数)などがあります。試験では、活性関数がニューロンの出力を決める構成要素であること、ネットワークに非線形な表現力を与える役割を持つことを押さえておけば十分です。
たとえ受け取った情報の強さを見て「これは次の人に伝える/伝えない、どれくらいの強さで伝える」を決める、各担当者の判断ルールのようなものです。
記憶フック活性関数といえばニューロンの出力を決める関数
訓練データに適応しすぎ、未知データに対応できなくなる状態。
過学習(オーバーフィッティング)は、学習に使った訓練データに合わせすぎてしまい、新しい未知のデータではうまく予測できなくなる現象です。訓練データの細かな特徴やノイズまで覚え込み、本来求めたい「一般化(汎化)」の能力が落ちてしまいます。 訓練データでは高精度なのにテストデータで精度が低い場合は過学習が疑われます。試験では、過学習が機械学習・ニューラルネットの落とし穴であること、データを増やす・モデルを単純にするなどで抑える、という対策の方向性が問われます。
たとえ過去問の答えだけを丸暗記してしまい、本番で少し言い回しが変わった問題に対応できなくなる受験生のような状態です。
記憶フック過学習といえば訓練データに適応しすぎて未知データに弱くなる
中間層を多層化したニューラルネットワークによる機械学習手法。
ディープラーニング(深層学習)は、ニューラルネットワークの中間層(隠れ層)を何層も深く重ねた手法です。層を深くすることで、データから特徴を自動的に・段階的に抽出できるようになり、画像認識・音声認識・自然言語処理などで高い性能を発揮します。 ニューラルネットワークを多層化した発展形である、という関係が最重要ポイントです。試験では、ディープラーニングがAI・機械学習の代表的手法で、ニューラルネットワークの中間層を多層にしたものであること、人間が特徴を細かく指定しなくても学習できる点が問われます。
たとえ情報を受け渡す担当者の階層を何段も増やすことで、最初は線や点、次は形、最後は「猫」と、だんだん高度な見分けができるようになる組織のようなものです。
記憶フックディープラーニングといえば中間層を多層化したニューラルネットワーク
関連の過去問演習は今後のアップデートで追加予定です。