番組概要
「エントロピー」
番組詳細
エントロピーという概念を導入し、それが情報源から得られる平均的な情報量という側面と確率分布の不確定さという側面を持っていることを解説する。さらに、熱力学でいうところのエントロピーとの関係についても述べる。次に、エントロピーの性質について解説し、条件付きエントロピー、相互情報量、カルバック・ライブラー情報量を定義する。
エントロピー、不確定さ、条件付きエントロピー、相互情報量、カルバック・ライブラー情報量
放送大学教授 加藤 浩