イェンゼンの不等式とは？Aiと統計学を支える超重要定理を徹底解説

イェンゼンの不等式とは？Aiと統計学を支える超重要定理を徹底解説とは一体何なのか? 主要なファクトを丁寧に紐解いて紹介します。

イェンゼンの不等式は単独で使われるだけでなく、確率論・情報科学の多岐にわたる基本定理の親戚として機能しています。実務現場や学術領域での具体的な利用実態を整理しました。

適用対象・公式名適用する関数と不等式の形一般的な基準・導出結果編集部の見解・評価相加相乗平均の不等式凹関数 $f(t) = \log t$
離散等確率分布 $\frac{1}{n}$$\frac{x_1+\dots+x_n}{n} \ge \sqrt[n]{x_1 \dots x_n}$高校数学の難問証明をわずか2行で完結させる最もエレガントな適用例。カルバック・ライブラー情報量
（KLダイバージェンス）凸関数 $f(t) = -\log t$
比率分布 $Q(x)/P(x)$$D_{\mathrm{KL}}(P \parallel Q) \ge 0$
（ギブスの不等式）確率分布間の「距離的指標」が常に0以上であることを保証する情報理論の土台。EMアルゴリズム
（混合ガウスモデル等）凹関数 $f(t) = \log t$
潜在変数 $z$ の事後分布Q関数の反復改善による対数尤度の単調非減少クラスタリングや欠損値処理の収束保証において欠かせない理論的根拠。変分オートエンコーダ
（VAE / 深層生成モデル）凹関数 $f(t) = \log t$
エンコーダ分布 $q_\phi(z|x)$$\log p_\theta(x) \ge \mathrm{ELBO}(\theta, \phi)$現代の画像・音声・分子生成AIの損失関数を構成する必須骨格。分散の非負性・2次モーメント凸関数 $f(t) = t^2$
任意の実数確率変数 $X$$\mathbb{E}[X^2] \ge (\mathbb{E}[X])^2$
（$\mathrm{Var}(X) \ge 0$）統計学の基本公理である「分散がマイナスにならない」事実の代数的裏付け。