Ley de los grandes números

De Wikipedia, la enciclopedia libre

La ley de los grandes números es un teorema en probabilidades que describe el comportamiento del promedio de una sucesión de variables aleatorias según el número total de variables aumenta. El teorema describe hipótesis suficientes para afirmar que dicho promedio converge (en los sentidos explicados abajo) al promedio de las esperanzas de las variables aleatorias involucradas. En particular, si todas las variables son idénticamente distribuidas e independientes, el promedio tiende al valor de la esperanza individual. Las leyes de los grandes números implican que el promedio de una muestra al azar de una población de gran tamaño tenderá a estar cerca de la media de la población completa. Varias formulaciones de la ley de los grandes números (y sus condiciones asociadas) especifican la convergencia de formas distintas.

Cuando las variables aleatorias tienen una varianza finita, el teorema central del límite extiende nuestro entendimiento de la convergencia de su promedio describiendo la distribución de diferencias estandarizadas entre la suma de variables aleatorias y el valor esperado de esta suma. Sin importar la distribución subyacente de las variables aleatorias, esta diferencia estandarizada converge a una variable aleatoria normal estándar.

La frase "ley de los grandes números" es también usada ocasionalmente para referirse al principio de que la probabilidad de cualquier evento posible (incluso uno improbable) ocurra al menos una vez en una serie incrementa con el número de eventos en la serie. Por ejemplo, la probabilidad de que un individuo gane la lotería es bastante baja; sin embargo, la probabilidad de que alguien gane la lotería es bastante alta, suponiendo que suficientes personas comprasen boletos de lotería.

Contenido

[editar] Ley débil

La ley débil de los grandes números establece si X1, X2, X3, ... es una secuencia infinita de variables aleatorias, donde todas las variables aleatorias tiene el mismo valor esperado μ y varianza σ2; y son independientes, entonces el promedio de una muestra

\overline{X}_n=(X_1+\cdots+X_n)/n

converge en probabilidad a μ. En otras palabras: para cualquier número positivo ε, sin importar cuan pequeño, se tiene

\lim_{n\rightarrow\infty}\operatorname{P}\left(\left|\overline{X}_n-\mu\right|<\varepsilon\right)=1.

[editar] Ley fuerte

La ley fuerte de los grandes números establece que si X1, X2, X3, ... es una secuencia infinita de variables aleatorias que son independientes e idénticamente distribuidas con E(|Xi|) < ∞   (y donde el valor esperado es μ), entonces

\operatorname{P}\left(\lim_{n\rightarrow\infty}\overline{X}_n=\mu\right)=1,

es decir, el promedio de las variables aleatorias converge a μ casi seguramente (en un conjunto de probabilidad 1).

Esta ley justifica la interpretación intuitiva de que el valor esperado de una variable aleatoria como el "promedio a largo plazo al hacer un muestreo repetitivo".

Demostración (resultado preliminar)
Demostraremos el siguiente resultado: Sea {X_i}\, una sucesión de variables aleatorias independientes e integrables con \mathbb{P}X_n=0\, (esperanza 0) y \sum_i\frac{\mathbb{P}X_i^2}{i^2}<\infty\,; entonces, el promedio \frac{1}{n}\sum_{i=1}^nX_i\rightarrow 0 casi seguramente cuando n\rightarrow\infty\,. Este teorema no asume que las variables aleatorias son idénticamente distribuidas pero controla el crecimiento de las varianzas.

Para demostrar el teorema haremos uso del siguiente lema:

Desigualdad Maximal. Sean Z_1,...,Z_N\, variables aleatorias independientes y sean \epsilon_1,\,\,\epsilon _2 y \beta\,\! constantes positivas que cumplen \mathbb{P}\{|Z_i+Z_{i+1}+...+Z_N|\le\epsilon_2\}\ge1/\beta para cada i. Luego

\mathbb{P}\{ max_{i\le N}|Z_1+...+Z_i|>\epsilon_1+\epsilon_2\} \le\beta\mathbb{P}\{|Z_1+...+Z_N|>\epsilon_1\}

Demostración del lema: Sean S_i:=Z_1+...+Z_i\, y T_i:=S_N-S_i\,. Definamos asimismo la variable aleatoria

\tau = \left \{ \begin{matrix} \text{primer i para el cual } |S_i|>\epsilon_1+\epsilon_2 \\ N \,\, \text{si } |S_i|\le\epsilon_1+\epsilon_2 \,\,\text{para todo }i \end{matrix} \right .

Tenemos entonces:

\begin{array}{rcl} \mathbb{P}\{ max_{i\le N}|Z_1+...+Z_i|>\epsilon_1+\epsilon_2\} & = & \mathbb{P}\{\tau=i, |S_i|>\epsilon_1+\epsilon_2 \text{ para algun i}\} \\ & = & \sum_{i=1}^N \mathbb{P}\{\tau=i, |S_i|>\epsilon_1+\epsilon_2\}\quad\text{pues son eventos disjuntos} \\ & = & \sum_{i=1}^N \mathbb{P}\{\tau=i, |S_i|>\epsilon_1+\epsilon_2\}\beta\mathbb{P}\{|T_i|\le\epsilon_2\} \quad \text{hipotesis del lema} \\ & = & \beta \sum_{i=1}^N \mathbb{P}\{\tau=i, |S_i|>\epsilon_1+\epsilon_2 , |T_i|\le\epsilon_2\}\quad\text{por independencia entre los } S_i\text{ y los } T_i \end{array}

Ahora bien, si |S_i|>\epsilon_1+\epsilon_2\, y |T_i|\le\epsilon_2 entonces implica que |S_i|>\epsilon_1\, por ende:

\mathbb{P}\{ max_{i\le N}|Z_1+...+Z_i|>\epsilon_1+\epsilon_2\} \le \beta \sum_{i=1}^N \mathbb{P}\{\tau=i, |S_i|>\epsilon_1\} = \beta \mathbb{P}\{|Z_1+...+Z_N|>\epsilon_1\}

con lo que se concluye el lema. (Fin demostración del lema)

Sigamos con la demostración del teorema: Definamos

\begin{array}{rcl} S_i & := & X_1+...+X_i\\ \sigma_i^2 & := & \mathbb{P}X_i^2\,;\quad V_i  := \sigma_1^2+...+\sigma_i^2=\mathbb{P}S_i^2\\ B_k&:=&{n: n_k<n\le n_{k+1}} \quad\text{donde }n_k:=2^k,\,\, k=1,2,3,... \end{array}

Tenemos entonces que la serie \sum_k V(n_k)/n_k^2 es convergente pues:

\sum_{k=1}^\infty V(n_k)/n_k^2=\sum_{k=1}^\infty\sum_{j=1}^\infty\sigma_j^2\chi_{\{j\le 2^k\}}4^{-k}=\sum_{j=1}^\infty\sigma_j^2\sum_{k=1}^\infty\chi_{\{j\le 2^k\}}4^{-k}=\sum_{j=1}^\infty\sigma_j^24^{-([\log_2j]+1)}\frac{4}{3}\le\frac{4}{3}\sum_{j=1}^\infty\sigma_j^2/j^2<\infty

La convergencia c.t.p. que asegura el teorema es equivalente a:

\max_{n }\frac{|S_n|}{n}\rightarrow 0 \quad \text{cuando } k\rightarrow \infty

Por el lema de Borel-Cantelli, es suficiente demostrar que, para todo \epsilon >0\,\!

( 1) \sum_k \mathbb{P}\left\{ \max_{n \in B_k}\frac{|S_n|}{n} > \epsilon \right\} < \infty

Cada probabilidad en la suma anterior puede ser acotada por:

\mathbb{P}\left\{ \max_{n\le n_{k+1}}|S_n|>\epsilon n_k \right\}

Ahora se aplica la desigualdad maximal:

\mathbb{P}\left\{ \max_{n\le n_{k+1}}|S_n|>\epsilon n_k \right\} \le \beta_k \mathbb{P} \{ |S_{n_{k+1}}|>\frac{\epsilon}{2}\, n_k\}\le \beta_k 4V(n_{k+1})/(\epsilon n_k)^2

La última desigualdad de la línea anterior se justifica por la desigualdad de Chebyshev. Una nueva aplicación de esta misma desigualdad nos permite acotar los \beta_k\,:

\begin{array}{rcl} \beta_k^{-1}&=&\min_{n\le n_{k+1}}\mathbb{P}\{|S_{n_{k+1}}-S_n|\le\frac{\epsilon}{2} n_k\}\\ & \ge & 1- \max_{n\le n_{k+1}}\frac{4\mathbb{P}(S_{n_{k+1}}-S_n)^2}{\epsilon^2 n_k^2}\\ &\ge& 1-\frac{16\,V(n_{n_k+1})}{\epsilon^2 n_k^2}\rightarrow 1 \qquad \text{cuando }k\rightarrow \infty \end{array}

Es decir, hemos logrado acotar cada sumando de la (1) por una constante por los términos de una sumatoria que sabemos convergente, demostrando la convergencia de dicha sumatoria y concluyendo via Borel-Cantelli la convergencia fuerte del teorema.

(Fin de la demostración)\blacksquare

Demostración de la ley fuerte de los grandes números (Kolmogorov)
Sea {X_i}\, una sucesión de variables aleatorias independientes, integrables e idénticamente distribuidas con \mathbb{P}X_n=0\, (esperanza 0), entonces, el promedio \frac{1}{n}\sum_{i=1}^nX_i\rightarrow 0 casi seguramente cuando n\rightarrow\infty\,.

Definamos Y_i=X_i \chi_{\{|X_i|\le i\}}\, y \mu_i=\mathbb{P}Y_i\,. Tenemos que 0=\mathbb{P}X_i=\mu_i+\mathbb{P}X_i\chi_{\{|X_i|>i\}}. Además, usando la hipótesis de distribuciones idénticas, podemos en general reemplazar (no siempre) una distribución X_i\, genérica por un representante, digamos X_1\,. Tenemos entonces:

(1) \left| \frac{1}{n}\sum_{i\le n} \mu_i\right| \le \mathbb{P}\frac{1}{n}\sum_{i\le n}|X_1|\chi_{\{|X_1|>i\}}\le \mathbb{P}\left \{|X_1|\min\left( 1,\frac{|X_1|}{n} \right) \right \}\rightarrow 0

La última convergencia a cero viene dada por la convergencia puntual más convergencia dominada por \,|X_1| . También tenemos que:

(2) \begin{array}{rcl} \sum_{i=1}^\infty\mathbb{P}\{X_i\ne Y_i\} & = & \sum_{i=1}^\infty\mathbb{P}\{|X_i|>i\} \\ & = & \sum_{i=1}^\infty\mathbb{P}\{|X_1|>i\} \\ & = & \sum_{i=1}^\infty i\, \mathbb{P}{\{|X_1|>i, |X_1| \le i+1\}} \\ &\le & \mathbb{P}|X_1|<\infty \end{array}

La tercera igualdad viene de que para cualquier variable aleatoria se cumple que:

\sum_{i\ge 1}\chi_{\{X>i\}}=\sum_{i\ge 1}i\,\chi_{\{X>i,x\le i+1\}}

La (2) implica, por Borel-Canteli, que el conjunto \{X_i\ne Y_i\,, \text{para infinitos i}\} tiene probabilidad cero. Por lo tanto, en un conjunto de probabilidad 1 se cumple:

(3) \left| \frac{1}{n}\sum_{i\le n}X_i-\frac{1}{n}\sum_{i\le n} Y_i \right|\rightarrow 0

De la desigualdad \mathbb{P}(Y_i-\mu_i)^2\le\mathbb{P}Y_i^2=\mathbb{P}(X_1^2\chi_{\{|X_1|\le i\}})\, podemos deducir que:

\sum_{i=1}^\infty \frac{\mathbb{P}(Y_i-\mu_i)^2}{i^2}\le \sum_{i=1}^\infty \frac{\mathbb{P}(X_1^2\chi_{\{|X_1|\le i\}})}{i^2}= \mathbb{P}\left \{\sum_{i=1}^\infty \frac{X_1^2\chi_{\{|X_1|\le i\}}}{i^2}\right\}\le C \mathbb{P}|X_1|<\infty

Por el teorema anteriormente demostrado tenemos:

(4) \frac{1}{n}\sum_{i\le n}(Y_i-\mu_i)\rightarrow 0

casi seguramente. Como además tenemos que:

\left|\frac{1}{n}\sum_{i\le n} X_i\right|\le \left|\frac{1}{n}\sum_{i\le n} (X_i-Y_i)\right| + \left|\frac{1}{n}\sum_{i\le n} (Y_i-\mu_i)\right| +\left|\frac{1}{n}\sum_{i\le n} \mu_i\right|

Entonces, de las ecuaciones (1), (3) y (4) se deduce que \left|\frac{1}{n}\sum_{i\le n} X_i\right|\rightarrow 0\, en casi en todos los puntos, concluyendo el teorema.

(Fin de la demostración)\blacksquare

[editar] Véase también

[editar] Referencias

  • David Pollard, A user´s guide to measure theoretic probability, Cambridge University Press (2003).
Obtenido de "http://es.wikipedia.org/wiki/Ley_de_los_grandes_n%C3%BAmeros"
Herramientas personales
Crear un libro