要点まとめ 自己情報量は情報の価値を数値化したもので、 と定義される。積を和差で扱える logを取り、情報の価値に対応するように負の値をとっている。 情報の価値の期待値、シャノンエントロピーは、 。 情報量の距離をカルバック・ライブラーダイバージェ…