線形分類器の出力を-100, -200などの数値ではなく、確率で出力する
W^TX
0~1の間の値を取るようにシグモイド関数(sigmoid function)を使う
a = 1 / 1+exp(-a)
a = w1x1 + w2x2 + w3x3 + w4x4
このような分類器を単純パーセプトロンと呼び、もっとも簡単なニューラルネットワークである
どのような確率で出力されるかは特徴ベクトルxと重みベクトルwによって決まる
クロスエントロピー: 2つの確率分布の間に定義される尺度
なるほど^^
