Jensen's inequality

Jensen’s inequality §

Sia $f$ una funzione convessa, ${\lambda }_i\in [0,1]$ t.c. ${\sum }_i{\lambda }_i=1$, allora:

$$f(\sum _i{\lambda }_i{x}_i)\le \sum _i{\lambda }_{i}f(x_i)$$

Conseguenze

• $f(E[X])\le E[f(X)]$
• media aritmetica $\ge$ media geometrica

Dim per induzione. Il caso $n=2$ segue dalla definizione di funzione convessa. Supponiamo sia vera per $n$. Motriamo che vale per $n+1$:

$$f(\sum _i^{n+1}{\lambda }_i{x}_i)=f(\sum _i^n{\lambda }_i{x}_i+{\lambda }_{n+1}{x}_{n+1})$$

ora che abbiamo separato in due elementi, vorremmo applicare la convessità per due punti, abbiamo bisogno di un coefficiente che moltiplici il primo addendo tale che sommato con ${\lambda }_{n+1}$ faccia $1$. Basta dividere e dividere per $1-{\lambda }_{n+1}$. Supponiamo infatti che valga ${\lambda }_{n+1}\ne 1$, infatti se vale uno la disuguaglianza vale banalmente (è un’uguaglianza). Possiamo applicare la definzinizione di funzione convessa:

$$f((1-{\lambda }_{n+1})\sum _i^n\frac{{\lambda }_i}{1-{\lambda }_{n+1}}{x}_i+{\lambda }_{n+1}{x}_{n+1})\le (1-{\lambda }_{n+1})f(\sum _i^n\frac{{\lambda }_i}{1-{\lambda }_{n+1}}{x}_i)+{\lambda }_{n+1}f(x_{n+1})$$

Possiamo usare l’ipotesi induttiva, infatti vale:

\sum_i^n \frac{\lambda_i}{1-\lambda_{n+1}} = 1 $$e maggiorare il tutto con:

\leq (1-\lambda_{n+1}) \sum_i^n\frac{\lambda_i}{(1-\lambda_{n+1})}f(x_i) + \lambda_{n+1}f(x_{n+1}) = \sum_i^{n+1} \lambda_i f(x_i)

e raccogliere. $QED$