Regressão linear, ANOVA e análise de resíduos

Modelo e pressupostos

Y é a variável resposta; X, a explicativa. β₀ é o intercepto e β₁ a inclinação. Os erros ε devem ser independentes, ter média zero e variância constante σ² (homocedasticidade). A normalidade dos erros é exigida para testes e intervalos, não para calcular as estimativas.

Ex.: Y = tempo de resposta a ocorrências, em minutos; X = distância até o local, em km. β₁ é o acréscimo médio de minutos por km.

Estimação por mínimos quadrados

O método escolhe a reta que minimiza Σ(yᵢ − ŷᵢ)².

• β̂₁ = Sxy/Sxx = r·s_Y/s_X.
• β̂₀ = ȳ − β̂₁·x̄. Por isso a reta passa pelo ponto (x̄, ȳ).

Ex.: x = 1, 2, 3, 4, 5 e y = 2, 4, 5, 4, 5. Médias: x̄ = 3 e ȳ = 4. Sxy = 6 e Sxx = 10.

• β̂₁ = 6 ÷ 10 = 0,6.
• β̂₀ = 4 − 0,6 × 3 = 2,2.
• Reta ajustada: ŷ = 2,2 + 0,6x.

Máxima verossimilhança

Com erros normais, o método da máxima verossimilhança dá os mesmos β̂₀ e β̂₁ dos mínimos quadrados. Para σ², o estimador de máxima verossimilhança divide SQRes por n e é viesado. O estimador usual divide por n − 2: é o quadrado médio do resíduo (QMRes).

Ex.: com SQRes = 2,4 e n = 5: máxima verossimilhança dá 2,4 ÷ 5 = 0,48; o estimador não viesado dá 2,4 ÷ 3 = 0,8.

Inferência sobre os parâmetros

Para testar se X ajuda a explicar Y, usa-se H₀: β₁ = 0. A estatística é t = β̂₁/EP(β̂₁), com n − 2 graus de liberdade. O intervalo de confiança é β̂₁ ± t·EP(β̂₁). Se o intervalo não contém zero, rejeita-se H₀.

Ex.: saída com β̂₁ = 0,6 e erro padrão 0,283: t ≈ 2,12, com 3 graus de liberdade.

ANOVA da regressão

A variação total de Y se decompõe: SQT = SQReg + SQRes.

Na regressão simples, F = t².

Ex.: nos dados acima, SQT = 6; SQReg = β̂₁ × Sxy = 3,6; SQRes = 2,4. QMRes = 2,4 ÷ 3 = 0,8. F = 3,6 ÷ 0,8 = 4,5, e t = √4,5 ≈ 2,12.

Coeficiente de determinação

R² = SQReg/SQT. Varia de 0 a 1 e mede a fração da variação de Y explicada pelo modelo. Na regressão simples, R² = r², o quadrado da correlação de Pearson. R² alto não prova causalidade nem que o modelo é adequado.

Ex.: R² = 3,6 ÷ 6 = 0,6. O modelo explica 60% da variação de Y. Não significa que 60% dos valores são previstos corretamente.

Análise de resíduos

Resíduo é eᵢ = yᵢ − ŷᵢ. Em modelo com intercepto, os resíduos somam zero. O gráfico de resíduos contra valores ajustados mostra se os pressupostos valem:

• Faixa aleatória em torno de zero: pressupostos atendidos.
• Funil (espalhamento crescente): heterocedasticidade.
• Curva: relação não linear.
• Padrão ao longo do tempo: autocorrelação (teste de Durbin-Watson).
• Gráfico QQ normal: verifica a normalidade.
• Alta alavancagem ou grande distância de Cook: pontos influentes.

Ex.: nos dados acima, os resíduos são −0,8; 0,6; 1,0; −0,6; −0,2. A soma é zero.

Regressão múltipla e previsão

Com várias variáveis explicativas, o teste F global avalia se algum βⱼ é diferente de zero, e os testes t avaliam cada coeficiente. Acrescentar variável nunca diminui o R²; o R² ajustado penaliza variável inútil e pode cair. Variáveis explicativas muito correlacionadas entre si causam multicolinearidade. Prever fora da faixa observada de X (extrapolação) é arriscado.

Ex.: a reta ŷ = 2,2 + 0,6x foi ajustada com x de 1 a 5. Prever para x = 6 (ŷ = 5,8) é interpolação quase na borda; prever para x = 50 é extrapolação sem base nos dados.