Lei dos grandes números e teorema central do limite

Lei dos grandes números (LGN). Com variáveis independentes e identicamente distribuídas e média μ finita, a média amostral aproxima-se de μ conforme n cresce. A versão fraca afirma convergência em probabilidade: P(|X̄ₙ − μ| > ε) → 0 para todo ε positivo. A versão forte afirma convergência quase certa: P(X̄ₙ → μ) = 1. A forte implica a fraca.

Prova pela desigualdade de Chebyshev. Com variância finita, P(|X̄ₙ − μ| ≥ ε) ≤ σ²/(nε²), que tende a zero. A variância finita facilita a prova, mas não é necessária para a versão de Khinchine, que pede só média finita.

Quando falha. A distribuição de Cauchy não tem média definida, e sua média amostral não converge para constante alguma.

Teorema central do limite (TCL). A LGN diz para onde a média vai; o TCL descreve a forma da flutuação. Com variáveis i.i.d. de variância finita σ², √n(X̄ₙ − μ)/σ converge em distribuição para a normal padrão, qualquer que seja a distribuição original. A variância da média amostral é σ²/n.

Uso. A LGN fundamenta a consistência de estimadores e a simulação de Monte Carlo. O TCL fundamenta intervalos e testes aproximados em grandes amostras.