メタちゃんねる
たのしいインターネット
List of Channels
NEW3時間以内の新着
Past Articles of {{ title }}
About メタちゃんねる
メタちゃんねるは、いわゆるアンテナサイトになります。
サイト内に転載されている動画、画像等の著作権は各権利所有者に帰属いたします。
また当サイト及びリンク先のサイトを利用したことにより発生した、いかなる損害及びトラブルに関して当方では一切の責任と義務を負いかねますので予めご了承下さい。
v20230706-224910#205
{{ 'Cache Expires ' + formatDate(cacheExpires, 'YYYY/MM') }}
Articles of {{ title }}
表示する記事がありません。
KL情報量を概念的に理解する - PlayGround KL情報量を概念的に理解する - PlayGround
KL情報量(カルバック・ライブラー・ダイバージェンス)は、確率分布どうしの距離的な尺度で、次元削減とか機械学習とかいろんなところでとってもよく出てきます。が、使うときはその意味はあまり考慮する必要はないので、今回はあえてそこを考えます。 情報量 まず、情報量について考えます。情報量というのは、情報の価値の指標です。情報の価値は、その情報が発生する確率に依存します。起こるのが珍しいほど良い情報ということです。 例えば、「宝くじが当たった」という情報は情報量が高く、「地球がまわった」という情報は情報量が低い、というようになっています。まあ、確かにレアなものほど嬉しい気はしますよね。こういったように…
