|
===================================== 〔語彙分解〕的な部分一致の検索結果は以下の通りです。 ・ ギブ : [ぎぶ] (n,vs) give, (n,vs) give ・ 不 : [ふ] 1. (n-pref) un- 2. non- 3. negative prefix ・ 不等 : [ふとう] 1. (adj-na,n) disparity 2. inequality ・ 不等式 : [ふどうしき, ふとうしき] (n) (gen) (math) (expression of) inequality ・ 等 : [など] 1. (suf) and others 2. et alia 3. etc. (ら) ・ 等式 : [とうしき] (n) (gen) (math) equality ・ 式 : [しき] 1. (n,n-suf) (1) equation 2. formula 3. expression 4. (2) ceremony 5. (3) style
ギブスの不等式(ぎぶすのふとうしき、英: Gibbs' inequality)とは、情報理論における離散確率分布のエントロピーに関する式である。確率分布のエントロピーに関しては、ギブスの不等式を出発点としていくつかの式が考案されており、ファーノの不等式などがある。 この不等式は19世紀にウィラード・ギブスが最初に提示した。 == 定義 == ある確率分布 ''P'' を次のように表す。 : 別の確率分布 ''Q'' を次のように表す。 : このとき、次の不等式が成り立つ。 : ただし、これは全ての ''i'' について次の等式が成り立つときだけ等式として成り立つ。 : 2つの量の差は、カルバック・ライブラー情報量(相対エントロピー)の符号を反転させたものと等しい。したがって、この不等式は次のようにも表せる。 : 抄文引用元・出典: フリー百科事典『 ウィキペディア(Wikipedia)』 ■ウィキペディアで「ギブスの不等式」の詳細全文を読む スポンサード リンク
|