Mathématiques du traitement du signal/Formulaire

Ce formulaire regroupe des formules utiles.

Inégalités

Un poly de référence : Concentration-of-measure inequalities, Gabor Lugosi.

Inégalité de Bienaymé-Tchebychev

$𝐏(||x-m||\ge t\sigma )\le 1/t^2$

Une démonstration de 1937.

Inégalité de Markov

Soit $X$ une varianle aléatoire et $t$ un réel :

$𝐏(X\ge t)\le \frac{1}{t}𝐄(X)$

On peut en déduire que pour toute fonction $\varphi$ mesurable monotone croissante à valeurs positives :

$𝐏(X\ge t)\le \frac{𝐄(\varphi (X))}{\varphi (t)}$

ce qui permet d'obtenir une généralisation de Chebychev (citée dans Concentration-of-measure inequalities, Lecture notes by Gabor Lugosi , March 7, 2005):

$𝐏(|X-𝐄(X)|\ge t)\le \frac{𝐄(|X-𝐄(X){|}^q}{t^q}$

Inégalité de Bonferroni

voir mathworld.wolfram.

$P({\cup }_i{E}_i)\le \sum _{i}P(E_i)$

Inégalité de Chernoff

Soit $(X_n{)}_{1\le n\le N}$ des réalisations d'une même variable aléatoire de variance ${\sigma }^2$. $S_N$ la somme de ces $N$ réalisations ; i.e. $S_N=\sum _{n=1}^N{X}_n$

Alors, pour tout $0\le k\le 2\sigma$, on a:

$P(|S_N|\ge k\sigma )\le 2e^{-k^2/4N^2}$

Inégalité d'Efron-Stein

Soit $(X_n{)}_{1\le n\le N},(X{\text{'}}_n{)}_{1\le n\le N}$ 2N réalisations i.i.d. d'une variable aléatoire réelle et $f:{IR}^N\mapsto IR$ une fonction mesurable. On note :

$Z=f(X_1,\dots ,X_N),Z^{(i)}=f(X_1,\dots ,X_{i-1},X{\text{'}}_i,X_{i+1},\dots ,X_N)$

Alors:

$𝐕(Z)\le \frac{1}{2}𝐄[\sum _{i=1}^N(Z-Z^{(i)}{)}^2]$

Cité par : Concentration inequalities using the entropy method, BOUCHERON, S., LUGOSI, G., MASSART, P. (2003), Ann. of Probability 31 n°3, 1583-1614.

et en notant ${𝐄}_i(Z)=𝐄(Z|X_i,\dots ,X_{i-1},X_{i+1},\dots ,X_n)$:

$𝐕(Z^{(i)})\le 𝐄[\sum _{i=1}^N(Z^{(i)}-{𝐄}_i(Z){)}^2]$

Cité par An application of the Efron-Stein inequality in density estimation, Luc Devroye, Annals of Statistics, vol. 15, pp. 1317-1320, 1987.

Elle est utilisée par exemple pour obtenir les résultats du Bootstrap et Jackknife The Jackknife and Bootstrap, by Jun Shao, p28.

Inégalité de Kolmogorov

Soit $(X_n{)}_{1\le n\le \mathrm{\infty }}$ des réalisations i.i.d. d'une même variable aléatoire d'espérance nulle. $S_N$ la somme de ces $N$ réalisations ; i.e. $S_N=\sum _{n=1}^N{X}_n$

Alors, pour tout $\lambda >0$ :

$𝐏(\underset{1\le k\le n}{\max }|S_k|\ge \lambda )\le \frac{1}{{\lambda }^2}𝐕(S_n)$

cf PlanetMath.org

Approximations

Distribution Gaussienne

Il y a dans Hull (Options, Futures and Other Derivatives, Fifth Edition ; John C. Hull), page 248, une approximation de la fonction de répartition d'une distribution gaussienne assez pratique : $\mathrm{\forall }x\ge ,N(x)=1-M(x)\sum _{i=1}^5{a}_{i}k(x{)}^i$ et $\mathrm{\forall }x<0,N(x)=1-N(-x)$ ; avec :

$k(x)=\frac{1}{1+\gamma x},\gamma =0.2316419$

$a_1=0.319381530,a_2=-0.356563782,a_3=1.781477937$

$a_4=-1.821255978,a_5=1.330274429$

$M(x)=\frac{1}{\sqrt{2\pi }}{e}^{-x^2/2}$