Kapitel 3 · Bivariate deskriptive Statistik

Regressionsrechnung

Von der Korrelation zur Vorhersage

Liegt eine Wirkungsrichtung nahe ($X \to Y$), beschreibt man $Y$ als Funktion von $X$: $\;y_i = \beta_0 + \beta_1 x_i + \varepsilon_i$. Der Fehler $\varepsilon$ fängt die Abweichung von Modell und Daten auf.

Kleinste-Quadrate-Methode

Man wählt die Gerade so, dass die Summe der quadrierten vertikalen Abstände minimal wird:

Ableiten und Nullsetzen liefert die KQ-Schätzer:

Beachte: $b_1$ hat dasselbe Vorzeichen wie die Kovarianz (und wie $r$). Die Gerade geht stets durch den Schwerpunkt $(\bar x, \bar y)$.

Durchgerechnet: »Schlafverhalten«

Fernsehzeit $X$ und Tiefschlafdauer $Y$ von 9 Kindern. Aus den Daten: $\sum(x_i-\bar x)(y_i-\bar y) = -3{,}71$, $\sum(x_i-\bar x)^2 = 8{,}24$, $\bar x = 1{,}33$, $\bar y = 5{,}56$. Damit:

Interpretation: ohne Fernsehen ca. 6,16 h Tiefschlaf; je Stunde Fernsehen rund 0,45 h weniger. (Im Test gegen den Kern reproduziert.)

Streuungszerlegung

Die Gesamtstreuung von $Y$ zerlegt sich additiv in einen erklärten und einen nicht erklärten (Residuen-)Anteil:

Bestimmtheitsmaß und Residuen

Das Bestimmtheitsmaß ist gerade der Anteil der erklärten an der gesamten Streuung:

Bei Einfachregression gilt $R^2 = r^2$. Für das Schlafbeispiel $R^2 \approx 0{,}45$.

Die Residuen $\hat e_i = y_i - \hat y_i$ zeigen, wie gut das Modell passt: Ein Residuenplot ohne Muster spricht für ein gutes Modell; ein Trend oder eine sich ändernde Streuung deutet auf Modellverletzungen.

Klausurfalle: $R^2$ ist nicht die Steigung und nicht $r$ selbst, sondern $r^2$. Und: Eine gut passende Gerade rechtfertigt keine Extrapolation weit außerhalb des Datenbereichs.