Неравенство Йенсена

Нера́венство Йе́нсена — неравенство для выпуклой функции среднего случайной величины.

Формулировка

Пусть $(\Omega,\mathcal{F},\mathbb{P})$ — вероятностное пространство, и $X\colon\Omega \to \mathbb{R}$ — определённая на нём случайная величина. Пусть также $\varphi\colon\mathbb{R} \to \mathbb{R}$ — выпуклая (вниз) борелевская функция. Тогда если $X, \varphi(X) \in L^1(\Omega,\mathcal{F},\mathbb{P})$, то

$\varphi(\mathbb{E}[X]) \leqslant \mathbb{E}[\varphi(X)]$,

где $\mathbb{E}[\cdot]$ означает математическое ожидание.

Замечание

• Если функция $\varphi$ вогнута (выпукла вверх), то знак в неравенстве меняется на противоположный.

Конечномерный вариант

Предположим, что $X$ имеет дискретное распределение, задаваемое функцией вероятности

$\mathbb{P}(X = x_i) = \alpha_i \geqslant 0,\; i= 1,\ldots, n;\; \sum\limits_{i=1}^n \alpha_i = 1.$

Тогда неравенство Йенсена принимает вид:

$\varphi \left( \sum_{i=1}^{n} \alpha_i x_i \right) \leqslant \sum_{i=1}^{n} \alpha_i \varphi (x_i)$.

Следствия

• Неравенство Гиббса в теории информации;
• Теорема Рао — Блекуэлла — Колмогорова в математической статистике.

Неравенство Йенсена для условного математического ожидания

Пусть в дополнение к предположениям, перечисленным выше, $\mathcal{G} \subset \mathcal{F}$ — под-σ-алгебра событий. Тогда

$\varphi(\mathbb{E}[X|\mathcal{G}]) \leqslant \mathbb{E}[\varphi(X)|\mathcal{G}]$,

где $\mathbb{E}[\cdot|\mathcal{G}]$ обозначает условное математическое ожидание относительно σ-алгебры $\mathcal G$.