教科書で学ぶニューラルネットワークと深層学習
定義一つのニューロンが受け取った値の合計を、次の層へ送る値に変える関数を活性関数（活性化関数）という。
解説ニューロンは前の層から届いた値に重みを掛けて足し合わせ、その合計を活性関数に通してから次へ渡す。例えば、合計が基準に達したときだけ信号を送る関数や、0 から 1 の間のなめらかな値に変える関数がある。活性関数が直線的でない変換をするおかげで、層を重ねたネットワークが複雑な関係を表せる。
たとえ受け取った知らせの強さを見て、次の人へ伝えるか、どのくらいの強さで伝えるかを決める、一人一人の判断のくせのようなもの。
記憶フック生物の神経細胞は刺激が一定を超えると「活性化（発火）」して信号を出す。その振る舞いをまねる関数なので活性関数と呼ぶ。