8.5 Unabhängigkeit

Wir wollen klären, wie wir zwei oder auch mehr Zufallsgrößen ansehen, ob sie unabhängig sind, d.h. ob ihre (zufälligen) Werte unabhängig davon entstehen, welche Werte die andere Zufallsgröße oder die anderen Zufallsgrößen annehmen. Die Frage der Unabhängigkeit ist von großer Bedeutung bei der Arbeit mit mehreren Zufallsgrößen (was sehr oft nötig ist!). Sind die betrachteten Zufallsgrößen unabhängig, so lassen sich deren Verteilungen bzw. die Verteilungen von zusammenfassenden Zufallsgrößen viel leichter bestimmen.

Beachte, dass die Frage nach Unabhängigkeit nur relevant ist, wenn alle beteiligten Zufallsgrößen auf dem selben Wahrscheinlichkeitsraum definiert sind. Davon gehen wir bei der Arbeit mit mehreren Zufallsgrößen stets aus, wenn wir die Situation nicht explizit anders beschreiben.

8.5.1Produkträume¶

Betrachten zur Motivation des Unabhängigkeitsbegriffs zwei aus Sicht des gesunden Menschenverstands völlig unabhängige zufällige Vorgänge (z.B. das Werfen eines Würfels und die Anzahl eingehender Anrufe an einem bestimmten Tag). Diese Modellieren wir jeweils als eigenen Wahrscheinlichkeitsraum. Wir haben es also aus mathematischer Sicht mit zwei Wahrscheinlichkeitsräumen $(\Omega_1,\cA_1,P_1)$ und $(\Omega_2,\cA_2,P_2)$ zu tun.

Wir überlegen uns nun, wie wir beide Vorgänge alternativ mit nur einem Wahrscheinlichkeitsraum modellieren können und welche spezielle Eigenschaft in diesem Fall für das zugehörige Wahrscheinlichkeitsmaß gelten muss. Diese Eigenschaft verwenden wir dann unten als Definition für die Unabhängigkeit von Zufallsgrößen.

Zwei durch $(\Omega_1,\cA_1,P_1)$ und $(\Omega_2,\cA_2,P_2)$ modellierte zufälligen Vorgänge können wir stets als einen einzigen zufälligen Vorgang betrachten, wenn wir als Ergebnismenge

wählen. Das Elementarereignis $(\omega_1,\omega_2)$ bedeutet dann, dass beim ersten Teilvorgang das Elementarereignis $\omega_1$ eingetreten ist und beim zweiten Teilvorgang das Elementarereignis $\omega_2$.

Ein Ereignisfeld für den kombinierten Vorgang sollte mindestens alle Ereignisse der Form

enthalten. Diese Ereignisse entsprechen dem Eintreten von $A_1$ beim ersten zufälligen Vorgang und dem Eintreten von $A_2$ beim zweiten. Mit $\cA$ bezeichnen wir das kleinste Ereignisfeld, welches all diese Ereignisse enthält.

Wie ist nun das Wahrscheinlichkeitsmaß $P$ zu wählen, damit $(\Omega,\cA,P)$ genau die gleichen Wahrscheinlichkeiten beschreibt wie die separaten Wahrscheinlichkeitsmaße? Insbesondere soll

gelten, sodass die Einzelwahrscheinlichkeiten $P_1$ und $P_2$ aus $P$ zurückgewonnen werden können.

Da wir die frequentistische Sicht einnehmen, soll die Wahrscheinlichkeit eines Ereignisses gerade dessen relative Häufigkeit bei sehr vielen Versuchen widerspiegeln. Tritt das Ereignis $A_1$ bei $n_1$ Versuchen zum ersten zufälligen Vorgang $m_1$-mal ein und das Ereignis $A_2$ bei $m_2$ von $n_2$ Versuchen zum zweiten Vorgang, so liegen $n_1\,n_2$ mögliche Kombinationen von Versuchen vor. Von diesen Kombinationen entsprechen $m_1\,m_2$ Stück dem Eintreten von $A_1\times A_2$, also $A_1$ beim ersten Vorgang und $A_2$ beim zweiten Vorgang. Die relative Häufigkeit bei kombinierter Betrachtung der beiden Vorgänge ergibt sich somit als Produkt der beiden relativen Häufigkeiten bei getrennter Betrachtung:

Entsprechend ist das kombinierte Wahrscheinlichkeitsmaß als

zu wählen. Man kann zeigen (tun wir hier nicht), dass dadurch $P$ auf ganz $\cA$ eindeutig gegeben ist und dass $P$ tatsächlich ein Wahrscheinlichkeitsmaß ist. Man bezeichnet $P$ auch als Produktmaß und $(\Omega,\cA,P)$ als Produkt von Wahrscheinlichkeitsräumen.

8.5.2Unabhängige Zufallsgrößen¶

Übertragen wir die Gedanken des vorhergehenden Abschnitts auf zwei Zufallsgrößen $\tilde{X}_1$ und $\tilde{X}_2$ mit zwei verschiedenen zugrundeliegenden Wahrscheinlichkeitsräumen $(\Omega_1,\cA_1,P_1)$ und $(\Omega_2,\cA_2,P_2)$, die zwei nach menschlichem Ermessen unabhängige zufällige Vorgänge beschreiben, so können wir $\tilde{X}_1$ und $\tilde{X}_2$ mittels

als Zufallsgrößen auf dem Produktraum $(\Omega,\cA,P)$ betrachten. Es gilt dann

(und entsprechend für alle anderen Formen von endlichen und halbunendlichen Intervallen).

Als Definition für Unabhängigkeit verwenden wir diese Beziehung, jedoch ohne auf die zugrundeliegende Produktstruktur des Wahrscheinlichkeitsraumes zu bestehen. Diese war nur der gewählten Herleitung bzw. Plausibilisierung der Beziehung geschuldet.

Man kann sich überlegen, dass die definierende Gleichheit schon für Intervalle der Form $(-\infty,b)$ die Unabhängigkeit vollständig charakakterisiert, d.h. man alternativ die Bedingung

in der Definition verwenden.

Für mehr als zwei Zufallsgrößen erfolgt die Definition analog:

Für unendlich viele Zufallsgrößen führt man Unabhängigkeit auf die Unabhängigkeit alle endlichen Teilmengen zurück:

8.5.3Nachweis und Bedeutung der Unabhängigkeit¶

Der Nachweis der Unabhängigkeit zweier Zufallsgrößen ist für praktisch relevante Situationen kaum möglich, da viel zu aufwendig. Man müsste für alle möglichen Kombinationen von Intervallen die definierende Gleichung nachweisen. Nur die Verletzung der Unabhängigkeit lässt sich gut nachweisen. Hier ist nur eine konkrete Situation von Intervallen $I_1$ und $I_2$ anzugeben, für die die definierende Gleichheit verletzt ist. Praktisch wird man die Frage der Unabhängigkeit nie exakt beantworten können oder wollen, weshalb wir hier auch auf jegliche Beispiele verzichten. Der Wert des Begriffs ist ein anderer.

Der Unabhängigkeitsbegriff spielt vor allem als Annahme eine wichtige Rolle. Aus praktischen Erwägungen kann man oft schließen, dass zwei betrachtete zufällige Vorgänge sich nicht (oder nicht in relevantem Maß) gegenseitig beeinflussen. Im mathematischen Modell formuliert man diese Einsicht als Annahme der Unabhängigkeit der entsprechenden Zufallsgrößen, obwohl man keinen harten Nachweis dazu geführt hat. Dieses Vorgehen ist aus streng mathematischer Sicht kritisch zu sehen. Dürfen wir mit Annahmen arbeiten, deren Erfüllung wir im betrachteten Fall nicht sicher nachweisen können? Andererseits sind viele wichtige statistische Werkzeuge (vgl. Kapitel zur Statistik) ohne die Annahme der Unabhängigkeit der beteiligten Zufallsgrößen überhaupt nicht einsetzbar. Wir werden auf diese schwierige Gradwanderung im Kapitel zur Statistik zurückkommen...

In gewissem Sinne ist die Unabhängigkeit von Zufallsgrößen für die Anwender also ein leerer Begriff: Ständig taucht er auf, die Definition ist eher technische Natur, also wenig anschaulich, und nie wird die Eigenschaft konkret nachgerechnet oder nachgewiesen. Lediglich die Interpretation in Alltagssprache spielt eine Rolle. Im ganzen für uns nicht sichtbaren Unterbau der mathematischen Statistik spielt der Unabhängigkeitsbegriff jedoch eine so zentrale Rolle, dass man ihn nicht vollständig vor den Anwendern verbergen kann bzw. verbergen möchte.